← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/double.cc

pandora-build v0.100 - Fixes several bugs found by cb1kenobi. Add several thoughts from folks at LCA.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/double.cc
1
 
/* - mode: c; c-basic-offset: 2; indent-tabs-mode: nil; -*-
 
1
/* - mode: c++ c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
4
 *  Copyright (C) 2008 MySQL
18
18
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
19
19
 */
20
20
 
21
 
#ifdef USE_PRAGMA_IMPLEMENTATION
22
 
#pragma implementation                          // gcc: Class implementation
23
 
#endif
24
 
 
25
 
#include <drizzled/server_includes.h>
 
21
 
 
22
#include "config.h"
 
23
 
 
24
#include <float.h>
 
25
#include <math.h>
 
26
 
 
27
#include <algorithm>
 
28
 
26
29
#include <drizzled/field/double.h>
27
 
#include <drizzled/drizzled_error_messages.h>
 
30
#include <drizzled/error.h>
 
31
#include <drizzled/table.h>
 
32
#include <drizzled/session.h>
 
33
#include "drizzled/internal/m_string.h"
 
34
 
 
35
using namespace std;
 
36
 
28
37
 
29
38
/****************************************************************************
30
39
  double precision floating point numbers
31
40
****************************************************************************/
32
41
 
33
 
int Field_double::store(const char *from,uint len, const CHARSET_INFO * const cs)
 
42
int Field_double::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
34
43
{
35
44
  int error;
36
45
  char *end;
37
46
  double nr= my_strntod(cs,(char*) from, len, &end, &error);
38
 
  if (error || (!len || (((uint) (end-from) != len) && table->in_use->count_cuted_fields)))
 
47
 
 
48
  ASSERT_COLUMN_MARKED_FOR_WRITE;
 
49
  if (error || (!len || (((uint32_t) (end-from) != len) && table->in_use->count_cuted_fields)))
39
50
  {
40
51
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN,
41
52
                (error ? ER_WARN_DATA_OUT_OF_RANGE : ER_WARN_DATA_TRUNCATED), 1);
50
61
{
51
62
  int error= truncate(&nr, DBL_MAX);
52
63
 
 
64
  ASSERT_COLUMN_MARKED_FOR_WRITE;
 
65
 
53
66
#ifdef WORDS_BIGENDIAN
54
67
  if (table->s->db_low_byte_first)
55
68
  {
68
81
                             (double) nr);
69
82
}
70
83
 
71
 
/*
72
 
  If a field has fixed length, truncate the double argument pointed to by 'nr'
73
 
  appropriately.
74
 
  Also ensure that the argument is within [-max_value; max_value] range.
75
 
*/
76
 
 
77
 
int Field_real::truncate(double *nr, double max_value)
78
 
{
79
 
  int error= 1;
80
 
  double res= *nr;
81
 
  
82
 
  if (isnan(res))
83
 
  {
84
 
    res= 0;
85
 
    set_null();
86
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
87
 
    goto end;
88
 
  }
89
 
  else if (unsigned_flag && res < 0)
90
 
  {
91
 
    res= 0;
92
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
93
 
    goto end;
94
 
  }
95
 
 
96
 
  if (!not_fixed)
97
 
  {
98
 
    uint order= field_length - dec;
99
 
    uint step= array_elements(log_10) - 1;
100
 
    max_value= 1.0;
101
 
    for (; order > step; order-= step)
102
 
      max_value*= log_10[step];
103
 
    max_value*= log_10[order];
104
 
    max_value-= 1.0 / log_10[dec];
105
 
 
106
 
    /* Check for infinity so we don't get NaN in calculations */
107
 
    if (!my_isinf(res))
108
 
    {
109
 
      double tmp= rint((res - floor(res)) * log_10[dec]) / log_10[dec];
110
 
      res= floor(res) + tmp;
111
 
    }
112
 
  }
113
 
  
114
 
  if (res < -max_value)
115
 
  {
116
 
   res= -max_value;
117
 
   set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
118
 
  }
119
 
  else if (res > max_value)
120
 
  {
121
 
    res= max_value;
122
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
123
 
  }
124
 
  else
125
 
    error= 0;
126
 
 
127
 
end:
128
 
  *nr= res;
129
 
  return error;
130
 
}
131
 
 
132
 
 
133
 
int Field_real::store_decimal(const my_decimal *dm)
134
 
{
135
 
  double dbl;
136
 
  my_decimal2double(E_DEC_FATAL_ERROR, dm, &dbl);
137
 
  return store(dbl);
138
 
}
139
 
 
140
84
double Field_double::val_real(void)
141
85
{
142
86
  double j;
 
87
 
 
88
  ASSERT_COLUMN_MARKED_FOR_READ;
 
89
 
143
90
#ifdef WORDS_BIGENDIAN
144
91
  if (table->s->db_low_byte_first)
145
92
  {
155
102
{
156
103
  double j;
157
104
  int64_t res;
 
105
 
 
106
  ASSERT_COLUMN_MARKED_FOR_READ;
 
107
 
158
108
#ifdef WORDS_BIGENDIAN
159
109
  if (table->s->db_low_byte_first)
160
110
  {
179
129
warn:
180
130
  {
181
131
    char buf[DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE];
182
 
    String tmp(buf, sizeof(buf), &my_charset_latin1), *str;
183
 
    str= val_str(&tmp, 0);
184
 
    push_warning_printf(current_thd, DRIZZLE_ERROR::WARN_LEVEL_WARN,
 
132
    String tmp(buf, sizeof(buf), &my_charset_utf8_general_ci), *str;
 
133
    str= val_str(&tmp, &tmp);
 
134
    push_warning_printf(current_session, DRIZZLE_ERROR::WARN_LEVEL_WARN,
185
135
                        ER_TRUNCATED_WRONG_VALUE,
186
136
                        ER(ER_TRUNCATED_WRONG_VALUE), "INTEGER",
187
137
                        str->c_ptr());
190
140
}
191
141
 
192
142
 
193
 
my_decimal *Field_real::val_decimal(my_decimal *decimal_value)
194
 
{
195
 
  double2my_decimal(E_DEC_FATAL_ERROR, val_real(), decimal_value);
196
 
  return decimal_value;
197
 
}
198
 
 
199
 
 
200
143
String *Field_double::val_str(String *val_buffer,
201
 
                              String *val_ptr __attribute__((unused)))
 
144
                              String *)
202
145
{
203
146
  double nr;
 
147
 
 
148
  ASSERT_COLUMN_MARKED_FOR_READ;
 
149
 
204
150
#ifdef WORDS_BIGENDIAN
205
151
  if (table->s->db_low_byte_first)
206
152
  {
210
156
#endif
211
157
    doubleget(nr,ptr);
212
158
 
213
 
  uint to_length=max(field_length, (uint32_t)DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE);
 
159
  uint32_t to_length= max(field_length, (uint32_t)DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE);
214
160
  val_buffer->alloc(to_length);
215
161
  char *to=(char*) val_buffer->ptr();
216
162
  size_t len;
220
166
  else
221
167
    len= my_fcvt(nr, dec, to, NULL);
222
168
 
223
 
  val_buffer->length((uint) len);
 
169
  val_buffer->length((uint32_t) len);
224
170
 
225
171
  return val_buffer;
226
172
}
227
173
 
228
 
bool Field_double::send_binary(Protocol *protocol)
229
 
{
230
 
  return protocol->store((double) Field_double::val_real(), dec, (String*) 0);
231
 
}
232
 
 
233
 
 
234
 
int Field_double::cmp(const uchar *a_ptr, const uchar *b_ptr)
 
174
int Field_double::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
235
175
{
236
176
  double a,b;
237
177
#ifdef WORDS_BIGENDIAN
250
190
}
251
191
 
252
192
 
253
 
#define DBL_EXP_DIG (sizeof(double)*8-DBL_MANT_DIG)
254
 
 
255
193
/* The following should work for IEEE */
256
194
 
257
 
void Field_double::sort_string(uchar *to,uint length __attribute__((unused)))
 
195
void Field_double::sort_string(unsigned char *to,uint32_t )
258
196
{
259
197
  double nr;
260
198
#ifdef WORDS_BIGENDIAN
269
207
}
270
208
 
271
209
 
272
 
/**
273
 
   Save the field metadata for double fields.
274
 
 
275
 
   Saves the pack length in the first byte of the field metadata array
276
 
   at index of *metadata_ptr.
277
 
 
278
 
   @param   metadata_ptr   First byte of field metadata
279
 
 
280
 
   @returns number of bytes written to metadata_ptr
281
 
*/
282
 
int Field_double::do_save_field_metadata(uchar *metadata_ptr)
283
 
{
284
 
  *metadata_ptr= pack_length();
285
 
  return 1;
286
 
}
287
 
 
288
 
 
289
210
void Field_double::sql_type(String &res) const
290
211
{
291
212
  const CHARSET_INFO * const cs=res.charset();
298
219
    res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(),
299
220
                            "double(%d,%d)",(int) field_length,dec));
300
221
  }
301
 
  add_unsigned(res);
302
222
}
303
223