← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/double.cc

Merge of Jay

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/double.cc
1
 
/* - mode: c; c-basic-offset: 2; indent-tabs-mode: nil; -*-
 
1
/* - mode: c++ c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
4
 *  Copyright (C) 2008 MySQL
18
18
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
19
19
 */
20
20
 
21
 
#ifdef USE_PRAGMA_IMPLEMENTATION
22
 
#pragma implementation                          // gcc: Class implementation
23
 
#endif
24
21
 
25
22
#include <drizzled/server_includes.h>
26
23
#include <drizzled/field/double.h>
27
 
#include <drizzled/drizzled_error_messages.h>
 
24
#include <drizzled/error.h>
 
25
#include <drizzled/table.h>
 
26
#include <drizzled/session.h>
 
27
 
 
28
#include <algorithm>
 
29
 
 
30
using namespace std;
 
31
 
28
32
 
29
33
/****************************************************************************
30
34
  double precision floating point numbers
31
35
****************************************************************************/
32
36
 
33
 
int Field_double::store(const char *from,uint len, const CHARSET_INFO * const cs)
 
37
int Field_double::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
34
38
{
35
39
  int error;
36
40
  char *end;
37
41
  double nr= my_strntod(cs,(char*) from, len, &end, &error);
38
 
  if (error || (!len || (((uint) (end-from) != len) && table->in_use->count_cuted_fields)))
 
42
 
 
43
  ASSERT_COLUMN_MARKED_FOR_WRITE;
 
44
  if (error || (!len || (((uint32_t) (end-from) != len) && table->in_use->count_cuted_fields)))
39
45
  {
40
46
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN,
41
47
                (error ? ER_WARN_DATA_OUT_OF_RANGE : ER_WARN_DATA_TRUNCATED), 1);
50
56
{
51
57
  int error= truncate(&nr, DBL_MAX);
52
58
 
 
59
  ASSERT_COLUMN_MARKED_FOR_WRITE;
 
60
 
53
61
#ifdef WORDS_BIGENDIAN
54
62
  if (table->s->db_low_byte_first)
55
63
  {
68
76
                             (double) nr);
69
77
}
70
78
 
71
 
/*
72
 
  If a field has fixed length, truncate the double argument pointed to by 'nr'
73
 
  appropriately.
74
 
  Also ensure that the argument is within [-max_value; max_value] range.
75
 
*/
76
 
 
77
 
int Field_real::truncate(double *nr, double max_value)
78
 
{
79
 
  int error= 1;
80
 
  double res= *nr;
81
 
  
82
 
  if (isnan(res))
83
 
  {
84
 
    res= 0;
85
 
    set_null();
86
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
87
 
    goto end;
88
 
  }
89
 
  else if (unsigned_flag && res < 0)
90
 
  {
91
 
    res= 0;
92
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
93
 
    goto end;
94
 
  }
95
 
 
96
 
  if (!not_fixed)
97
 
  {
98
 
    uint order= field_length - dec;
99
 
    uint step= array_elements(log_10) - 1;
100
 
    max_value= 1.0;
101
 
    for (; order > step; order-= step)
102
 
      max_value*= log_10[step];
103
 
    max_value*= log_10[order];
104
 
    max_value-= 1.0 / log_10[dec];
105
 
 
106
 
    /* Check for infinity so we don't get NaN in calculations */
107
 
    if (!my_isinf(res))
108
 
    {
109
 
      double tmp= rint((res - floor(res)) * log_10[dec]) / log_10[dec];
110
 
      res= floor(res) + tmp;
111
 
    }
112
 
  }
113
 
  
114
 
  if (res < -max_value)
115
 
  {
116
 
   res= -max_value;
117
 
   set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
118
 
  }
119
 
  else if (res > max_value)
120
 
  {
121
 
    res= max_value;
122
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
123
 
  }
124
 
  else
125
 
    error= 0;
126
 
 
127
 
end:
128
 
  *nr= res;
129
 
  return error;
130
 
}
131
 
 
132
 
 
133
 
int Field_real::store_decimal(const my_decimal *dm)
134
 
{
135
 
  double dbl;
136
 
  my_decimal2double(E_DEC_FATAL_ERROR, dm, &dbl);
137
 
  return store(dbl);
138
 
}
139
 
 
140
79
double Field_double::val_real(void)
141
80
{
142
81
  double j;
 
82
 
 
83
  ASSERT_COLUMN_MARKED_FOR_READ;
 
84
 
143
85
#ifdef WORDS_BIGENDIAN
144
86
  if (table->s->db_low_byte_first)
145
87
  {
155
97
{
156
98
  double j;
157
99
  int64_t res;
 
100
 
 
101
  ASSERT_COLUMN_MARKED_FOR_READ;
 
102
 
158
103
#ifdef WORDS_BIGENDIAN
159
104
  if (table->s->db_low_byte_first)
160
105
  {
179
124
warn:
180
125
  {
181
126
    char buf[DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE];
182
 
    String tmp(buf, sizeof(buf), &my_charset_latin1), *str;
183
 
    str= val_str(&tmp, 0);
184
 
    push_warning_printf(current_thd, DRIZZLE_ERROR::WARN_LEVEL_WARN,
 
127
    String tmp(buf, sizeof(buf), &my_charset_utf8_general_ci), *str;
 
128
    str= val_str(&tmp, &tmp);
 
129
    push_warning_printf(current_session, DRIZZLE_ERROR::WARN_LEVEL_WARN,
185
130
                        ER_TRUNCATED_WRONG_VALUE,
186
131
                        ER(ER_TRUNCATED_WRONG_VALUE), "INTEGER",
187
132
                        str->c_ptr());
190
135
}
191
136
 
192
137
 
193
 
my_decimal *Field_real::val_decimal(my_decimal *decimal_value)
194
 
{
195
 
  double2my_decimal(E_DEC_FATAL_ERROR, val_real(), decimal_value);
196
 
  return decimal_value;
197
 
}
198
 
 
199
 
 
200
138
String *Field_double::val_str(String *val_buffer,
201
 
                              String *val_ptr __attribute__((unused)))
 
139
                              String *)
202
140
{
203
141
  double nr;
 
142
 
 
143
  ASSERT_COLUMN_MARKED_FOR_READ;
 
144
 
204
145
#ifdef WORDS_BIGENDIAN
205
146
  if (table->s->db_low_byte_first)
206
147
  {
210
151
#endif
211
152
    doubleget(nr,ptr);
212
153
 
213
 
  uint to_length=max(field_length, (uint32_t)DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE);
 
154
  uint32_t to_length= max(field_length, (uint32_t)DOUBLE_TO_STRING_CONVERSION_BUFFER_SIZE);
214
155
  val_buffer->alloc(to_length);
215
156
  char *to=(char*) val_buffer->ptr();
216
157
  size_t len;
220
161
  else
221
162
    len= my_fcvt(nr, dec, to, NULL);
222
163
 
223
 
  val_buffer->length((uint) len);
 
164
  val_buffer->length((uint32_t) len);
224
165
 
225
166
  return val_buffer;
226
167
}
227
168
 
228
 
bool Field_double::send_binary(Protocol *protocol)
229
 
{
230
 
  return protocol->store((double) Field_double::val_real(), dec, (String*) 0);
231
 
}
232
 
 
233
 
 
234
 
int Field_double::cmp(const uchar *a_ptr, const uchar *b_ptr)
 
169
int Field_double::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
235
170
{
236
171
  double a,b;
237
172
#ifdef WORDS_BIGENDIAN
250
185
}
251
186
 
252
187
 
253
 
#define DBL_EXP_DIG (sizeof(double)*8-DBL_MANT_DIG)
254
 
 
255
188
/* The following should work for IEEE */
256
189
 
257
 
void Field_double::sort_string(uchar *to,uint length __attribute__((unused)))
 
190
void Field_double::sort_string(unsigned char *to,uint32_t )
258
191
{
259
192
  double nr;
260
193
#ifdef WORDS_BIGENDIAN
279
212
 
280
213
   @returns number of bytes written to metadata_ptr
281
214
*/
282
 
int Field_double::do_save_field_metadata(uchar *metadata_ptr)
 
215
int Field_double::do_save_field_metadata(unsigned char *metadata_ptr)
283
216
{
284
217
  *metadata_ptr= pack_length();
285
218
  return 1;
298
231
    res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(),
299
232
                            "double(%d,%d)",(int) field_length,dec));
300
233
  }
301
 
  add_unsigned(res);
302
234
}
303
235