← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/int64_t.cc

  • Committer: Mark Atwood
  • Date: 2008-07-12 07:25:25 UTC
  • mto: This revision was merged to the branch mainline in revision 139.
  • Revision ID: me@mark.atwood.name-20080712072525-s1dq9mtwo5td7af7
more hackery to get plugin UDFs working

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/int64_t.cc
1
 
/* - mode: c++ c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
 
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
 
 *
4
 
 *  Copyright (C) 2008 MySQL
5
 
 *
6
 
 *  This program is free software; you can redistribute it and/or modify
7
 
 *  it under the terms of the GNU General Public License as published by
8
 
 *  the Free Software Foundation; either version 2 of the License, or
9
 
 *  (at your option) any later version.
10
 
 *
11
 
 *  This program is distributed in the hope that it will be useful,
12
 
 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13
 
 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14
 
 *  GNU General Public License for more details.
15
 
 *
16
 
 *  You should have received a copy of the GNU General Public License
17
 
 *  along with this program; if not, write to the Free Software
18
 
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
19
 
 */
20
 
 
21
 
#ifdef USE_PRAGMA_IMPLEMENTATION
22
 
#pragma implementation                          // gcc: Class implementation
23
 
#endif
24
 
 
25
 
#include <drizzled/server_includes.h>
26
 
#include <drizzled/field/int64_t.h>
27
 
 
28
 
/****************************************************************************
29
 
 Field type int64_t int (8 bytes)
30
 
****************************************************************************/
31
 
 
32
 
int Field_int64_t::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
33
 
{
34
 
  int error= 0;
35
 
  char *end;
36
 
  uint64_t tmp;
37
 
 
38
 
  tmp= cs->cset->strntoull10rnd(cs,from,len,unsigned_flag,&end,&error);
39
 
  if (error == MY_ERRNO_ERANGE)
40
 
  {
41
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
42
 
    error= 1;
43
 
  }
44
 
  else if (table->in_use->count_cuted_fields && 
45
 
           check_int(cs, from, len, end, error))
46
 
    error= 1;
47
 
  else
48
 
    error= 0;
49
 
#ifdef WORDS_BIGENDIAN
50
 
  if (table->s->db_low_byte_first)
51
 
  {
52
 
    int8store(ptr,tmp);
53
 
  }
54
 
  else
55
 
#endif
56
 
    int64_tstore(ptr,tmp);
57
 
  return error;
58
 
}
59
 
 
60
 
 
61
 
int Field_int64_t::store(double nr)
62
 
{
63
 
  int error= 0;
64
 
  int64_t res;
65
 
 
66
 
  nr= rint(nr);
67
 
  if (unsigned_flag)
68
 
  {
69
 
    if (nr < 0)
70
 
    {
71
 
      res=0;
72
 
      error= 1;
73
 
    }
74
 
    else if (nr >= (double) UINT64_MAX)
75
 
    {
76
 
      res= ~(int64_t) 0;
77
 
      error= 1;
78
 
    }
79
 
    else
80
 
      res=(int64_t) (uint64_t) nr;
81
 
  }
82
 
  else
83
 
  {
84
 
    if (nr <= (double) INT64_MIN)
85
 
    {
86
 
      res= INT64_MIN;
87
 
      error= (nr < (double) INT64_MIN);
88
 
    }
89
 
    else if (nr >= (double) (uint64_t) INT64_MAX)
90
 
    {
91
 
      res= INT64_MAX;
92
 
      error= (nr > (double) INT64_MAX);
93
 
    }
94
 
    else
95
 
      res=(int64_t) nr;
96
 
  }
97
 
  if (error)
98
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
99
 
 
100
 
#ifdef WORDS_BIGENDIAN
101
 
  if (table->s->db_low_byte_first)
102
 
  {
103
 
    int8store(ptr,res);
104
 
  }
105
 
  else
106
 
#endif
107
 
    int64_tstore(ptr,res);
108
 
  return error;
109
 
}
110
 
 
111
 
 
112
 
int Field_int64_t::store(int64_t nr, bool unsigned_val)
113
 
{
114
 
  int error= 0;
115
 
 
116
 
  if (nr < 0)                                   // Only possible error
117
 
  {
118
 
    /*
119
 
      if field is unsigned and value is signed (< 0) or
120
 
      if field is signed and value is unsigned we have an overflow
121
 
    */
122
 
    if (unsigned_flag != unsigned_val)
123
 
    {
124
 
      nr= unsigned_flag ? (uint64_t) 0 : (uint64_t) INT64_MAX;
125
 
      set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
126
 
      error= 1;
127
 
    }
128
 
  }
129
 
 
130
 
#ifdef WORDS_BIGENDIAN
131
 
  if (table->s->db_low_byte_first)
132
 
  {
133
 
    int8store(ptr,nr);
134
 
  }
135
 
  else
136
 
#endif
137
 
    int64_tstore(ptr,nr);
138
 
  return error;
139
 
}
140
 
 
141
 
 
142
 
double Field_int64_t::val_real(void)
143
 
{
144
 
  int64_t j;
145
 
#ifdef WORDS_BIGENDIAN
146
 
  if (table->s->db_low_byte_first)
147
 
  {
148
 
    j=sint8korr(ptr);
149
 
  }
150
 
  else
151
 
#endif
152
 
    int64_tget(j,ptr);
153
 
  /* The following is open coded to avoid a bug in gcc 3.3 */
154
 
  if (unsigned_flag)
155
 
  {
156
 
    uint64_t tmp= (uint64_t) j;
157
 
    return uint64_t2double(tmp);
158
 
  }
159
 
  return (double) j;
160
 
}
161
 
 
162
 
 
163
 
int64_t Field_int64_t::val_int(void)
164
 
{
165
 
  int64_t j;
166
 
#ifdef WORDS_BIGENDIAN
167
 
  if (table->s->db_low_byte_first)
168
 
    j=sint8korr(ptr);
169
 
  else
170
 
#endif
171
 
    int64_tget(j,ptr);
172
 
  return j;
173
 
}
174
 
 
175
 
 
176
 
String *Field_int64_t::val_str(String *val_buffer,
177
 
                                String *val_ptr __attribute__((unused)))
178
 
{
179
 
  const CHARSET_INFO * const cs= &my_charset_bin;
180
 
  uint32_t length;
181
 
  uint32_t mlength=cmax(field_length+1,22*cs->mbmaxlen);
182
 
  val_buffer->alloc(mlength);
183
 
  char *to=(char*) val_buffer->ptr();
184
 
  int64_t j;
185
 
#ifdef WORDS_BIGENDIAN
186
 
  if (table->s->db_low_byte_first)
187
 
    j=sint8korr(ptr);
188
 
  else
189
 
#endif
190
 
    int64_tget(j,ptr);
191
 
 
192
 
  length=(uint) (cs->cset->int64_t10_to_str)(cs,to,mlength,
193
 
                                        unsigned_flag ? 10 : -10, j);
194
 
  val_buffer->length(length);
195
 
 
196
 
  return val_buffer;
197
 
}
198
 
 
199
 
 
200
 
bool Field_int64_t::send_binary(Protocol *protocol)
201
 
{
202
 
  return protocol->store_int64_t(Field_int64_t::val_int(), unsigned_flag);
203
 
}
204
 
 
205
 
 
206
 
int Field_int64_t::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
207
 
{
208
 
  int64_t a,b;
209
 
#ifdef WORDS_BIGENDIAN
210
 
  if (table->s->db_low_byte_first)
211
 
  {
212
 
    a=sint8korr(a_ptr);
213
 
    b=sint8korr(b_ptr);
214
 
  }
215
 
  else
216
 
#endif
217
 
  {
218
 
    int64_tget(a,a_ptr);
219
 
    int64_tget(b,b_ptr);
220
 
  }
221
 
  if (unsigned_flag)
222
 
    return ((uint64_t) a < (uint64_t) b) ? -1 :
223
 
    ((uint64_t) a > (uint64_t) b) ? 1 : 0;
224
 
  return (a < b) ? -1 : (a > b) ? 1 : 0;
225
 
}
226
 
 
227
 
void Field_int64_t::sort_string(unsigned char *to,uint32_t length __attribute__((unused)))
228
 
{
229
 
#ifdef WORDS_BIGENDIAN
230
 
  if (!table->s->db_low_byte_first)
231
 
  {
232
 
    if (unsigned_flag)
233
 
      to[0] = ptr[0];
234
 
    else
235
 
      to[0] = (char) (ptr[0] ^ 128);            /* Revers signbit */
236
 
    to[1]   = ptr[1];
237
 
    to[2]   = ptr[2];
238
 
    to[3]   = ptr[3];
239
 
    to[4]   = ptr[4];
240
 
    to[5]   = ptr[5];
241
 
    to[6]   = ptr[6];
242
 
    to[7]   = ptr[7];
243
 
  }
244
 
  else
245
 
#endif
246
 
  {
247
 
    if (unsigned_flag)
248
 
      to[0] = ptr[7];
249
 
    else
250
 
      to[0] = (char) (ptr[7] ^ 128);            /* Revers signbit */
251
 
    to[1]   = ptr[6];
252
 
    to[2]   = ptr[5];
253
 
    to[3]   = ptr[4];
254
 
    to[4]   = ptr[3];
255
 
    to[5]   = ptr[2];
256
 
    to[6]   = ptr[1];
257
 
    to[7]   = ptr[0];
258
 
  }
259
 
}
260
 
 
261
 
 
262
 
void Field_int64_t::sql_type(String &res) const
263
 
{
264
 
  const CHARSET_INFO * const cs=res.charset();
265
 
  res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(), "bigint"));
266
 
  add_unsigned(res);
267
 
}
268
 
 
269
 
 
270
 
/*
271
 
  Floating-point numbers
272
 
 */
273
 
 
274
 
unsigned char *
275
 
Field_real::pack(unsigned char *to, const unsigned char *from,
276
 
                 uint32_t max_length, bool low_byte_first)
277
 
{
278
 
  assert(max_length >= pack_length());
279
 
#ifdef WORDS_BIGENDIAN
280
 
  if (low_byte_first != table->s->db_low_byte_first)
281
 
  {
282
 
    const unsigned char *dptr= from + pack_length();
283
 
    while (dptr-- > from)
284
 
      *to++ = *dptr;
285
 
    return(to);
286
 
  }
287
 
  else
288
 
#endif
289
 
    return(Field::pack(to, from, max_length, low_byte_first));
290
 
}
291
 
 
292
 
const unsigned char *
293
 
Field_real::unpack(unsigned char *to, const unsigned char *from,
294
 
                   uint32_t param_data, bool low_byte_first)
295
 
{
296
 
#ifdef WORDS_BIGENDIAN
297
 
  if (low_byte_first != table->s->db_low_byte_first)
298
 
  {
299
 
    const unsigned char *dptr= from + pack_length();
300
 
    while (dptr-- > from)
301
 
      *to++ = *dptr;
302
 
    return(from + pack_length());
303
 
  }
304
 
  else
305
 
#endif
306
 
    return(Field::unpack(to, from, param_data, low_byte_first));
307
 
}
308