← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/double.cc

  • Committer: Brian Aker
  • Date: 2008-12-16 07:07:50 UTC
  • Revision ID: brian@tangent.org-20081216070750-o5ykltxxqvn2awrx
Fixed errors test.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/double.cc
1
 
/* - mode: c; c-basic-offset: 2; indent-tabs-mode: nil; -*-
 
1
/* - mode: c++ c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
4
 *  Copyright (C) 2008 MySQL
18
18
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
19
19
 */
20
20
 
21
 
#ifdef USE_PRAGMA_IMPLEMENTATION
22
 
#pragma implementation                          // gcc: Class implementation
23
 
#endif
24
21
 
25
22
#include <drizzled/server_includes.h>
26
23
#include <drizzled/field/double.h>
27
 
#include <drizzled/drizzled_error_messages.h>
 
24
#include <drizzled/error.h>
 
25
#include <drizzled/table.h>
 
26
#include <drizzled/session.h>
 
27
#include <drizzled/protocol.h>
 
28
 
 
29
#include CMATH_H
 
30
 
 
31
#if defined(CMATH_NAMESPACE)
 
32
using namespace CMATH_NAMESPACE;
 
33
#endif
28
34
 
29
35
/****************************************************************************
30
36
  double precision floating point numbers
31
37
****************************************************************************/
32
38
 
33
 
int Field_double::store(const char *from,uint len, const CHARSET_INFO * const cs)
 
39
int Field_double::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
34
40
{
35
41
  int error;
36
42
  char *end;
68
74
                             (double) nr);
69
75
}
70
76
 
71
 
/*
72
 
  If a field has fixed length, truncate the double argument pointed to by 'nr'
73
 
  appropriately.
74
 
  Also ensure that the argument is within [-max_value; max_value] range.
75
 
*/
76
 
 
77
 
int Field_real::truncate(double *nr, double max_value)
78
 
{
79
 
  int error= 1;
80
 
  double res= *nr;
81
 
  
82
 
  if (isnan(res))
83
 
  {
84
 
    res= 0;
85
 
    set_null();
86
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
87
 
    goto end;
88
 
  }
89
 
  else if (unsigned_flag && res < 0)
90
 
  {
91
 
    res= 0;
92
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
93
 
    goto end;
94
 
  }
95
 
 
96
 
  if (!not_fixed)
97
 
  {
98
 
    uint order= field_length - dec;
99
 
    uint step= array_elements(log_10) - 1;
100
 
    max_value= 1.0;
101
 
    for (; order > step; order-= step)
102
 
      max_value*= log_10[step];
103
 
    max_value*= log_10[order];
104
 
    max_value-= 1.0 / log_10[dec];
105
 
 
106
 
    /* Check for infinity so we don't get NaN in calculations */
107
 
    if (!my_isinf(res))
108
 
    {
109
 
      double tmp= rint((res - floor(res)) * log_10[dec]) / log_10[dec];
110
 
      res= floor(res) + tmp;
111
 
    }
112
 
  }
113
 
  
114
 
  if (res < -max_value)
115
 
  {
116
 
   res= -max_value;
117
 
   set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
118
 
  }
119
 
  else if (res > max_value)
120
 
  {
121
 
    res= max_value;
122
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
123
 
  }
124
 
  else
125
 
    error= 0;
126
 
 
127
 
end:
128
 
  *nr= res;
129
 
  return error;
130
 
}
131
 
 
132
 
 
133
 
int Field_real::store_decimal(const my_decimal *dm)
134
 
{
135
 
  double dbl;
136
 
  my_decimal2double(E_DEC_FATAL_ERROR, dm, &dbl);
137
 
  return store(dbl);
138
 
}
139
 
 
140
77
double Field_double::val_real(void)
141
78
{
142
79
  double j;
179
116
warn:
180
117
  {
181
118
    char buf[DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE];
182
 
    String tmp(buf, sizeof(buf), &my_charset_latin1), *str;
 
119
    String tmp(buf, sizeof(buf), &my_charset_utf8_general_ci), *str;
183
120
    str= val_str(&tmp, 0);
184
 
    push_warning_printf(current_thd, DRIZZLE_ERROR::WARN_LEVEL_WARN,
 
121
    push_warning_printf(current_session, DRIZZLE_ERROR::WARN_LEVEL_WARN,
185
122
                        ER_TRUNCATED_WRONG_VALUE,
186
123
                        ER(ER_TRUNCATED_WRONG_VALUE), "INTEGER",
187
124
                        str->c_ptr());
190
127
}
191
128
 
192
129
 
193
 
my_decimal *Field_real::val_decimal(my_decimal *decimal_value)
194
 
{
195
 
  double2my_decimal(E_DEC_FATAL_ERROR, val_real(), decimal_value);
196
 
  return decimal_value;
197
 
}
198
 
 
199
 
 
200
130
String *Field_double::val_str(String *val_buffer,
201
131
                              String *val_ptr __attribute__((unused)))
202
132
{
210
140
#endif
211
141
    doubleget(nr,ptr);
212
142
 
213
 
  uint to_length=max(field_length, (uint32_t)DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE);
 
143
  uint32_t to_length=cmax(field_length, (uint32_t)DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE);
214
144
  val_buffer->alloc(to_length);
215
145
  char *to=(char*) val_buffer->ptr();
216
146
  size_t len;
231
161
}
232
162
 
233
163
 
234
 
int Field_double::cmp(const uchar *a_ptr, const uchar *b_ptr)
 
164
int Field_double::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
235
165
{
236
166
  double a,b;
237
167
#ifdef WORDS_BIGENDIAN
250
180
}
251
181
 
252
182
 
253
 
#define DBL_EXP_DIG (sizeof(double)*8-DBL_MANT_DIG)
254
 
 
255
183
/* The following should work for IEEE */
256
184
 
257
 
void Field_double::sort_string(uchar *to,uint length __attribute__((unused)))
 
185
void Field_double::sort_string(unsigned char *to,uint32_t length __attribute__((unused)))
258
186
{
259
187
  double nr;
260
188
#ifdef WORDS_BIGENDIAN
279
207
 
280
208
   @returns number of bytes written to metadata_ptr
281
209
*/
282
 
int Field_double::do_save_field_metadata(uchar *metadata_ptr)
 
210
int Field_double::do_save_field_metadata(unsigned char *metadata_ptr)
283
211
{
284
212
  *metadata_ptr= pack_length();
285
213
  return 1;
298
226
    res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(),
299
227
                            "double(%d,%d)",(int) field_length,dec));
300
228
  }
301
 
  add_unsigned(res);
302
229
}
303
230