← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/real.cc

  • Committer: Brian Aker
  • Date: 2009-12-29 01:38:38 UTC
  • mfrom: (1251.1.1 drizzle)
  • Revision ID: brian@gaz-20091229013838-03kb2z5xbqw03ddt
Merge of Diego fix.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/real.cc
 
1
/* - mode: c++; c-basic-offset: 2; indent-tabs-mode: nil; -*-
 
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
 
3
 *
 
4
 *  Copyright (C) 2008 MySQL
 
5
 *
 
6
 *  This program is free software; you can redistribute it and/or modify
 
7
 *  it under the terms of the GNU General Public License as published by
 
8
 *  the Free Software Foundation; either version 2 of the License, or
 
9
 *  (at your option) any later version.
 
10
 *
 
11
 *  This program is distributed in the hope that it will be useful,
 
12
 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
 
13
 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
14
 *  GNU General Public License for more details.
 
15
 *
 
16
 *  You should have received a copy of the GNU General Public License
 
17
 *  along with this program; if not, write to the Free Software
 
18
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
 
19
 */
 
20
 
 
21
#include "config.h"
 
22
#include <drizzled/field/real.h>
 
23
#include <drizzled/error.h>
 
24
#include <drizzled/table.h>
 
25
 
 
26
#include <math.h>
 
27
 
 
28
#include <limits>
 
29
 
 
30
using namespace std;
 
31
 
 
32
extern const double log_10[309];
 
33
 
 
34
/*
 
35
  Floating-point numbers
 
36
 */
 
37
 
 
38
unsigned char *
 
39
Field_real::pack(unsigned char *to, const unsigned char *from,
 
40
                 uint32_t max_length, bool low_byte_first)
 
41
{
 
42
  assert(max_length >= pack_length());
 
43
#ifdef WORDS_BIGENDIAN
 
44
  if (low_byte_first != table->s->db_low_byte_first)
 
45
  {
 
46
    const unsigned char *dptr= from + pack_length();
 
47
    while (dptr-- > from)
 
48
      *to++ = *dptr;
 
49
    return(to);
 
50
  }
 
51
  else
 
52
#endif
 
53
    return(Field::pack(to, from, max_length, low_byte_first));
 
54
}
 
55
 
 
56
const unsigned char *
 
57
Field_real::unpack(unsigned char *to, const unsigned char *from,
 
58
                   uint32_t param_data, bool low_byte_first)
 
59
{
 
60
#ifdef WORDS_BIGENDIAN
 
61
  if (low_byte_first != table->s->db_low_byte_first)
 
62
  {
 
63
    const unsigned char *dptr= from + pack_length();
 
64
    while (dptr-- > from)
 
65
      *to++ = *dptr;
 
66
    return(from + pack_length());
 
67
  }
 
68
  else
 
69
#endif
 
70
    return(Field::unpack(to, from, param_data, low_byte_first));
 
71
}
 
72
 
 
73
/*
 
74
  If a field has fixed length, truncate the double argument pointed to by 'nr'
 
75
  appropriately.
 
76
  Also ensure that the argument is within [-max_value; max_value] range.
 
77
*/
 
78
 
 
79
int Field_real::truncate(double *nr, double max_value)
 
80
{
 
81
  int error= 1;
 
82
  double res= *nr;
 
83
 
 
84
  if (res == numeric_limits<double>::quiet_NaN())
 
85
  {
 
86
    res= 0;
 
87
    set_null();
 
88
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
89
    goto end;
 
90
  }
 
91
 
 
92
  if (!not_fixed)
 
93
  {
 
94
    uint32_t order= field_length - dec;
 
95
    uint32_t step= array_elements(log_10) - 1;
 
96
    max_value= 1.0;
 
97
    for (; order > step; order-= step)
 
98
      max_value*= log_10[step];
 
99
    max_value*= log_10[order];
 
100
    max_value-= 1.0 / log_10[dec];
 
101
 
 
102
    /* Check for infinity so we don't get NaN in calculations */
 
103
    if (res != numeric_limits<double>::infinity())
 
104
    {
 
105
      double tmp= rint((res - floor(res)) * log_10[dec]) / log_10[dec];
 
106
      res= floor(res) + tmp;
 
107
    }
 
108
  }
 
109
 
 
110
  if (res < -max_value)
 
111
  {
 
112
   res= -max_value;
 
113
   set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
114
  }
 
115
  else if (res > max_value)
 
116
  {
 
117
    res= max_value;
 
118
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
119
  }
 
120
  else
 
121
    error= 0;
 
122
 
 
123
end:
 
124
  *nr= res;
 
125
  return error;
 
126
}
 
127
 
 
128
 
 
129
int Field_real::store_decimal(const my_decimal *dm)
 
130
{
 
131
  double dbl;
 
132
  my_decimal2double(E_DEC_FATAL_ERROR, dm, &dbl);
 
133
  return store(dbl);
 
134
}
 
135
 
 
136
my_decimal *Field_real::val_decimal(my_decimal *decimal_value)
 
137
{
 
138
  ASSERT_COLUMN_MARKED_FOR_READ;
 
139
 
 
140
  double2my_decimal(E_DEC_FATAL_ERROR, val_real(), decimal_value);
 
141
  return decimal_value;
 
142
}