← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/int64_t.cc

Cleanup of time code (moved into mysys)

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/int64_t.cc
1
 
/* - mode: c++ c-basic-offset: 2; indent-tabs-mode: nil; -*-
 
1
/* - mode: c; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
4
 *  Copyright (C) 2008 MySQL
18
18
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
19
19
 */
20
20
 
21
 
 
22
 
#include "config.h"
23
 
#include <drizzled/field/int64.h>
24
 
#include <drizzled/error.h>
25
 
#include <drizzled/table.h>
26
 
#include <drizzled/session.h>
27
 
#include "drizzled/internal/my_sys.h"
28
 
 
29
 
#include <math.h>
30
 
 
31
 
#include <algorithm>
32
 
 
33
 
using namespace std;
34
 
 
35
 
namespace drizzled
36
 
{
37
 
 
38
 
namespace field
39
 
{
 
21
#ifdef USE_PRAGMA_IMPLEMENTATION
 
22
#pragma implementation                          // gcc: Class implementation
 
23
#endif
 
24
 
 
25
#include <drizzled/server_includes.h>
 
26
#include <drizzled/field/int64_t.h>
40
27
 
41
28
/****************************************************************************
42
 
  Field type Int64 int (8 bytes)
43
 
 ****************************************************************************/
 
29
 Field type int64_t int (8 bytes)
 
30
****************************************************************************/
44
31
 
45
 
int Int64::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
 
32
int Field_int64_t::store(const char *from,uint len, const CHARSET_INFO * const cs)
46
33
{
47
34
  int error= 0;
48
35
  char *end;
49
36
  uint64_t tmp;
50
37
 
51
 
  ASSERT_COLUMN_MARKED_FOR_WRITE;
52
 
 
53
 
  tmp= cs->cset->strntoull10rnd(cs, from, len, false, &end,&error);
 
38
  tmp= cs->cset->strntoull10rnd(cs,from,len,unsigned_flag,&end,&error);
54
39
  if (error == MY_ERRNO_ERANGE)
55
40
  {
56
41
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
57
42
    error= 1;
58
43
  }
59
 
  else if (getTable()->in_use->count_cuted_fields &&
 
44
  else if (table->in_use->count_cuted_fields && 
60
45
           check_int(cs, from, len, end, error))
61
46
    error= 1;
62
47
  else
63
48
    error= 0;
64
49
#ifdef WORDS_BIGENDIAN
65
 
  if (getTable()->getShare()->db_low_byte_first)
 
50
  if (table->s->db_low_byte_first)
66
51
  {
67
52
    int8store(ptr,tmp);
68
53
  }
73
58
}
74
59
 
75
60
 
76
 
int Int64::store(double nr)
 
61
int Field_int64_t::store(double nr)
77
62
{
78
63
  int error= 0;
79
64
  int64_t res;
80
65
 
81
 
  ASSERT_COLUMN_MARKED_FOR_WRITE;
82
 
 
83
66
  nr= rint(nr);
84
 
 
85
 
  if (nr <= (double) INT64_MIN)
86
 
  {
87
 
    res= INT64_MIN;
88
 
    error= (nr < (double) INT64_MIN);
89
 
  }
90
 
  else if (nr >= (double) (uint64_t) INT64_MAX)
91
 
  {
92
 
    res= INT64_MAX;
93
 
    error= (nr > (double) INT64_MAX);
 
67
  if (unsigned_flag)
 
68
  {
 
69
    if (nr < 0)
 
70
    {
 
71
      res=0;
 
72
      error= 1;
 
73
    }
 
74
    else if (nr >= (double) UINT64_MAX)
 
75
    {
 
76
      res= ~(int64_t) 0;
 
77
      error= 1;
 
78
    }
 
79
    else
 
80
      res=(int64_t) (uint64_t) nr;
94
81
  }
95
82
  else
96
 
    res=(int64_t) nr;
97
 
 
 
83
  {
 
84
    if (nr <= (double) INT64_MIN)
 
85
    {
 
86
      res= INT64_MIN;
 
87
      error= (nr < (double) INT64_MIN);
 
88
    }
 
89
    else if (nr >= (double) (uint64_t) INT64_MAX)
 
90
    {
 
91
      res= INT64_MAX;
 
92
      error= (nr > (double) INT64_MAX);
 
93
    }
 
94
    else
 
95
      res=(int64_t) nr;
 
96
  }
98
97
  if (error)
99
98
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
100
99
 
101
100
#ifdef WORDS_BIGENDIAN
102
 
  if (getTable()->getShare()->db_low_byte_first)
 
101
  if (table->s->db_low_byte_first)
103
102
  {
104
103
    int8store(ptr,res);
105
104
  }
110
109
}
111
110
 
112
111
 
113
 
int Int64::store(int64_t nr, bool )
 
112
int Field_int64_t::store(int64_t nr, bool unsigned_val)
114
113
{
115
114
  int error= 0;
116
115
 
117
 
  ASSERT_COLUMN_MARKED_FOR_WRITE;
 
116
  if (nr < 0)                                   // Only possible error
 
117
  {
 
118
    /*
 
119
      if field is unsigned and value is signed (< 0) or
 
120
      if field is signed and value is unsigned we have an overflow
 
121
    */
 
122
    if (unsigned_flag != unsigned_val)
 
123
    {
 
124
      nr= unsigned_flag ? (uint64_t) 0 : (uint64_t) INT64_MAX;
 
125
      set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
126
      error= 1;
 
127
    }
 
128
  }
118
129
 
119
130
#ifdef WORDS_BIGENDIAN
120
 
  if (getTable()->getShare()->db_low_byte_first)
 
131
  if (table->s->db_low_byte_first)
121
132
  {
122
133
    int8store(ptr,nr);
123
134
  }
128
139
}
129
140
 
130
141
 
131
 
double Int64::val_real(void)
 
142
double Field_int64_t::val_real(void)
132
143
{
133
144
  int64_t j;
134
 
 
135
 
  ASSERT_COLUMN_MARKED_FOR_READ;
136
 
 
137
145
#ifdef WORDS_BIGENDIAN
138
 
  if (getTable()->getShare()->db_low_byte_first)
 
146
  if (table->s->db_low_byte_first)
139
147
  {
140
148
    j=sint8korr(ptr);
141
149
  }
143
151
#endif
144
152
    int64_tget(j,ptr);
145
153
  /* The following is open coded to avoid a bug in gcc 3.3 */
 
154
  if (unsigned_flag)
 
155
  {
 
156
    uint64_t tmp= (uint64_t) j;
 
157
    return uint64_t2double(tmp);
 
158
  }
146
159
  return (double) j;
147
160
}
148
161
 
149
162
 
150
 
int64_t Int64::val_int(void)
 
163
int64_t Field_int64_t::val_int(void)
151
164
{
152
165
  int64_t j;
153
 
 
154
 
  ASSERT_COLUMN_MARKED_FOR_READ;
155
 
 
156
166
#ifdef WORDS_BIGENDIAN
157
 
  if (getTable()->getShare()->db_low_byte_first)
 
167
  if (table->s->db_low_byte_first)
158
168
    j=sint8korr(ptr);
159
169
  else
160
170
#endif
163
173
}
164
174
 
165
175
 
166
 
String *Int64::val_str(String *val_buffer,
167
 
                       String *)
 
176
String *Field_int64_t::val_str(String *val_buffer,
 
177
                                String *val_ptr __attribute__((unused)))
168
178
{
169
179
  const CHARSET_INFO * const cs= &my_charset_bin;
170
 
  uint32_t length;
171
 
  uint32_t mlength= max(field_length+1,22*cs->mbmaxlen);
 
180
  uint length;
 
181
  uint mlength=max(field_length+1,22*cs->mbmaxlen);
172
182
  val_buffer->alloc(mlength);
173
183
  char *to=(char*) val_buffer->ptr();
174
184
  int64_t j;
175
 
 
176
 
  ASSERT_COLUMN_MARKED_FOR_READ;
177
 
 
178
185
#ifdef WORDS_BIGENDIAN
179
 
  if (getTable()->getShare()->db_low_byte_first)
 
186
  if (table->s->db_low_byte_first)
180
187
    j=sint8korr(ptr);
181
188
  else
182
189
#endif
183
190
    int64_tget(j,ptr);
184
191
 
185
 
  length=(uint32_t) (cs->cset->int64_t10_to_str)(cs,to,mlength, -10, j);
 
192
  length=(uint) (cs->cset->int64_t10_to_str)(cs,to,mlength,
 
193
                                        unsigned_flag ? 10 : -10, j);
186
194
  val_buffer->length(length);
187
195
 
188
196
  return val_buffer;
189
197
}
190
198
 
191
 
int Int64::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
 
199
 
 
200
bool Field_int64_t::send_binary(Protocol *protocol)
 
201
{
 
202
  return protocol->store_int64_t(Field_int64_t::val_int(), unsigned_flag);
 
203
}
 
204
 
 
205
 
 
206
int Field_int64_t::cmp(const uchar *a_ptr, const uchar *b_ptr)
192
207
{
193
208
  int64_t a,b;
194
209
#ifdef WORDS_BIGENDIAN
195
 
  if (getTable()->getShare()->db_low_byte_first)
 
210
  if (table->s->db_low_byte_first)
196
211
  {
197
212
    a=sint8korr(a_ptr);
198
213
    b=sint8korr(b_ptr);
203
218
    int64_tget(a,a_ptr);
204
219
    int64_tget(b,b_ptr);
205
220
  }
 
221
  if (unsigned_flag)
 
222
    return ((uint64_t) a < (uint64_t) b) ? -1 :
 
223
    ((uint64_t) a > (uint64_t) b) ? 1 : 0;
206
224
  return (a < b) ? -1 : (a > b) ? 1 : 0;
207
225
}
208
226
 
209
 
void Int64::sort_string(unsigned char *to,uint32_t )
 
227
void Field_int64_t::sort_string(uchar *to,uint length __attribute__((unused)))
210
228
{
211
229
#ifdef WORDS_BIGENDIAN
212
 
  if (!getTable()->getShare()->db_low_byte_first)
 
230
  if (!table->s->db_low_byte_first)
213
231
  {
214
 
    to[0] = (char) (ptr[0] ^ 128);              /* Revers signbit */
 
232
    if (unsigned_flag)
 
233
      to[0] = ptr[0];
 
234
    else
 
235
      to[0] = (char) (ptr[0] ^ 128);            /* Revers signbit */
215
236
    to[1]   = ptr[1];
216
237
    to[2]   = ptr[2];
217
238
    to[3]   = ptr[3];
223
244
  else
224
245
#endif
225
246
  {
226
 
    to[0] = (char) (ptr[7] ^ 128);              /* Revers signbit */
 
247
    if (unsigned_flag)
 
248
      to[0] = ptr[7];
 
249
    else
 
250
      to[0] = (char) (ptr[7] ^ 128);            /* Revers signbit */
227
251
    to[1]   = ptr[6];
228
252
    to[2]   = ptr[5];
229
253
    to[3]   = ptr[4];
235
259
}
236
260
 
237
261
 
238
 
void Int64::sql_type(String &res) const
 
262
void Field_int64_t::sql_type(String &res) const
239
263
{
240
264
  const CHARSET_INFO * const cs=res.charset();
241
265
  res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(), "bigint"));
242
 
}
243
 
 
244
 
 
245
 
unsigned char *Int64::pack(unsigned char* to, const unsigned char *from,
246
 
                           uint32_t,
247
 
#ifdef WORDS_BIGENDIAN
248
 
                           bool low_byte_first
249
 
#else
250
 
                           bool
251
 
#endif
252
 
                          )
253
 
{
254
 
  int64_t val;
255
 
#ifdef WORDS_BIGENDIAN
256
 
  if (getTable()->getShare()->db_low_byte_first)
257
 
    val = sint8korr(from);
258
 
  else
259
 
#endif
260
 
    int64_tget(val, from);
261
 
 
262
 
#ifdef WORDS_BIGENDIAN
263
 
  if (low_byte_first)
264
 
    int8store(to, val);
265
 
  else
266
 
#endif
267
 
    int64_tstore(to, val);
268
 
  return to + sizeof(val);
269
 
}
270
 
 
271
 
 
272
 
const unsigned char *Int64::unpack(unsigned char* to, const unsigned char *from, uint32_t,
273
 
#ifdef WORDS_BIGENDIAN
274
 
                                   bool low_byte_first
275
 
#else
276
 
                                   bool
277
 
#endif
278
 
                                  )
279
 
{
280
 
  int64_t val;
281
 
#ifdef WORDS_BIGENDIAN
282
 
  if (low_byte_first)
283
 
    val = sint8korr(from);
284
 
  else
285
 
#endif
286
 
    int64_tget(val, from);
287
 
 
288
 
#ifdef WORDS_BIGENDIAN
289
 
  if (getTable()->getShare()->db_low_byte_first)
290
 
    int8store(to, val);
291
 
  else
292
 
#endif
293
 
    int64_tstore(to, val);
294
 
  return from + sizeof(val);
295
 
}
296
 
 
297
 
} /* namespace field */
298
 
} /* namespace drizzled */
 
266
  add_unsigned(res);
 
267
}
 
268
 
 
269
 
 
270
/*
 
271
  Floating-point numbers
 
272
 */
 
273
 
 
274
uchar *
 
275
Field_real::pack(uchar *to, const uchar *from,
 
276
                 uint max_length, bool low_byte_first)
 
277
{
 
278
  assert(max_length >= pack_length());
 
279
#ifdef WORDS_BIGENDIAN
 
280
  if (low_byte_first != table->s->db_low_byte_first)
 
281
  {
 
282
    const uchar *dptr= from + pack_length();
 
283
    while (dptr-- > from)
 
284
      *to++ = *dptr;
 
285
    return(to);
 
286
  }
 
287
  else
 
288
#endif
 
289
    return(Field::pack(to, from, max_length, low_byte_first));
 
290
}
 
291
 
 
292
const uchar *
 
293
Field_real::unpack(uchar *to, const uchar *from,
 
294
                   uint param_data, bool low_byte_first)
 
295
{
 
296
#ifdef WORDS_BIGENDIAN
 
297
  if (low_byte_first != table->s->db_low_byte_first)
 
298
  {
 
299
    const uchar *dptr= from + pack_length();
 
300
    while (dptr-- > from)
 
301
      *to++ = *dptr;
 
302
    return(from + pack_length());
 
303
  }
 
304
  else
 
305
#endif
 
306
    return(Field::unpack(to, from, param_data, low_byte_first));
 
307
}
 
308