← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/int64_t.cc

  • Committer: Brian Aker
  • Date: 2009-11-12 16:13:04 UTC
  • mfrom: (1211.1.7 staging)
  • Revision ID: brian@gaz-20091112161304-opamiauv36fg0n6u
Rollup of Brian, Padraig, and Stewart patches.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/int64_t.cc
19
19
 */
20
20
 
21
21
 
22
 
#include "config.h"
23
 
#include <drizzled/field/int64.h>
 
22
#include <drizzled/server_includes.h>
 
23
#include <drizzled/field/int64_t.h>
24
24
#include <drizzled/error.h>
25
25
#include <drizzled/table.h>
26
26
#include <drizzled/session.h>
27
 
#include "drizzled/internal/my_sys.h"
28
 
 
29
 
#include <math.h>
30
27
 
31
28
#include <algorithm>
32
29
 
33
30
using namespace std;
34
31
 
35
 
namespace drizzled
36
 
{
37
 
 
38
 
namespace field
39
 
{
40
32
 
41
33
/****************************************************************************
42
 
  Field type Int64 int (8 bytes)
43
 
 ****************************************************************************/
 
34
 Field type int64_t int (8 bytes)
 
35
****************************************************************************/
44
36
 
45
 
int Int64::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
 
37
int Field_int64_t::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
46
38
{
47
39
  int error= 0;
48
40
  char *end;
56
48
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
57
49
    error= 1;
58
50
  }
59
 
  else if (getTable()->in_use->count_cuted_fields && check_int(cs, from, len, end, error))
60
 
  {
 
51
  else if (table->in_use->count_cuted_fields &&
 
52
           check_int(cs, from, len, end, error))
61
53
    error= 1;
62
 
  }
63
54
  else
64
 
  {
65
55
    error= 0;
 
56
#ifdef WORDS_BIGENDIAN
 
57
  if (table->s->db_low_byte_first)
 
58
  {
 
59
    int8store(ptr,tmp);
66
60
  }
67
 
 
68
 
  int64_tstore(ptr,tmp);
69
 
 
 
61
  else
 
62
#endif
 
63
    int64_tstore(ptr,tmp);
70
64
  return error;
71
65
}
72
66
 
73
67
 
74
 
int Int64::store(double nr)
 
68
int Field_int64_t::store(double nr)
75
69
{
76
70
  int error= 0;
77
71
  int64_t res;
91
85
    error= (nr > (double) INT64_MAX);
92
86
  }
93
87
  else
94
 
  {
95
88
    res=(int64_t) nr;
96
 
  }
97
89
 
98
90
  if (error)
99
91
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
100
92
 
101
 
  int64_tstore(ptr, res);
102
 
 
 
93
#ifdef WORDS_BIGENDIAN
 
94
  if (table->s->db_low_byte_first)
 
95
  {
 
96
    int8store(ptr,res);
 
97
  }
 
98
  else
 
99
#endif
 
100
    int64_tstore(ptr,res);
103
101
  return error;
104
102
}
105
103
 
106
104
 
107
 
int Int64::store(int64_t nr, bool arg)
 
105
int Field_int64_t::store(int64_t nr, bool )
108
106
{
109
107
  int error= 0;
110
108
 
111
109
  ASSERT_COLUMN_MARKED_FOR_WRITE;
112
 
  if (arg and (nr < 0)) // Only a partial fix for overflow
 
110
 
 
111
#ifdef WORDS_BIGENDIAN
 
112
  if (table->s->db_low_byte_first)
113
113
  {
114
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
115
 
    error= 1;
 
114
    int8store(ptr,nr);
116
115
  }
117
 
 
118
 
  int64_tstore(ptr,nr);
119
 
 
 
116
  else
 
117
#endif
 
118
    int64_tstore(ptr,nr);
120
119
  return error;
121
120
}
122
121
 
123
122
 
124
 
double Int64::val_real(void)
 
123
double Field_int64_t::val_real(void)
125
124
{
126
125
  int64_t j;
127
126
 
128
127
  ASSERT_COLUMN_MARKED_FOR_READ;
129
128
 
130
 
  int64_tget(j,ptr);
 
129
#ifdef WORDS_BIGENDIAN
 
130
  if (table->s->db_low_byte_first)
 
131
  {
 
132
    j=sint8korr(ptr);
 
133
  }
 
134
  else
 
135
#endif
 
136
    int64_tget(j,ptr);
131
137
  /* The following is open coded to avoid a bug in gcc 3.3 */
132
 
 
133
138
  return (double) j;
134
139
}
135
140
 
136
141
 
137
 
int64_t Int64::val_int(void)
 
142
int64_t Field_int64_t::val_int(void)
138
143
{
139
144
  int64_t j;
140
145
 
141
146
  ASSERT_COLUMN_MARKED_FOR_READ;
142
147
 
143
 
  int64_tget(j,ptr);
144
 
 
 
148
#ifdef WORDS_BIGENDIAN
 
149
  if (table->s->db_low_byte_first)
 
150
    j=sint8korr(ptr);
 
151
  else
 
152
#endif
 
153
    int64_tget(j,ptr);
145
154
  return j;
146
155
}
147
156
 
148
157
 
149
 
String *Int64::val_str(String *val_buffer, String *)
 
158
String *Field_int64_t::val_str(String *val_buffer,
 
159
                                String *)
150
160
{
151
161
  const CHARSET_INFO * const cs= &my_charset_bin;
152
162
  uint32_t length;
157
167
 
158
168
  ASSERT_COLUMN_MARKED_FOR_READ;
159
169
 
160
 
  int64_tget(j,ptr);
 
170
#ifdef WORDS_BIGENDIAN
 
171
  if (table->s->db_low_byte_first)
 
172
    j=sint8korr(ptr);
 
173
  else
 
174
#endif
 
175
    int64_tget(j,ptr);
161
176
 
162
177
  length=(uint32_t) (cs->cset->int64_t10_to_str)(cs,to,mlength, -10, j);
163
178
  val_buffer->length(length);
165
180
  return val_buffer;
166
181
}
167
182
 
168
 
int Int64::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
 
183
int Field_int64_t::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
169
184
{
170
185
  int64_t a,b;
171
 
 
172
 
  int64_tget(a,a_ptr);
173
 
  int64_tget(b,b_ptr);
174
 
 
 
186
#ifdef WORDS_BIGENDIAN
 
187
  if (table->s->db_low_byte_first)
 
188
  {
 
189
    a=sint8korr(a_ptr);
 
190
    b=sint8korr(b_ptr);
 
191
  }
 
192
  else
 
193
#endif
 
194
  {
 
195
    int64_tget(a,a_ptr);
 
196
    int64_tget(b,b_ptr);
 
197
  }
175
198
  return (a < b) ? -1 : (a > b) ? 1 : 0;
176
199
}
177
200
 
178
 
void Int64::sort_string(unsigned char *to,uint32_t )
 
201
void Field_int64_t::sort_string(unsigned char *to,uint32_t )
179
202
{
180
203
#ifdef WORDS_BIGENDIAN
 
204
  if (!table->s->db_low_byte_first)
181
205
  {
182
206
    to[0] = (char) (ptr[0] ^ 128);              /* Revers signbit */
183
207
    to[1]   = ptr[1];
188
212
    to[6]   = ptr[6];
189
213
    to[7]   = ptr[7];
190
214
  }
191
 
#else
 
215
  else
 
216
#endif
192
217
  {
193
218
    to[0] = (char) (ptr[7] ^ 128);              /* Revers signbit */
194
219
    to[1]   = ptr[6];
199
224
    to[6]   = ptr[1];
200
225
    to[7]   = ptr[0];
201
226
  }
202
 
#endif
203
227
}
204
228
 
205
229
 
206
 
void Int64::sql_type(String &res) const
 
230
void Field_int64_t::sql_type(String &res) const
207
231
{
208
232
  const CHARSET_INFO * const cs=res.charset();
209
233
  res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(), "bigint"));
210
234
}
211
235
 
212
236
 
213
 
unsigned char *Int64::pack(unsigned char* to, const unsigned char *from, uint32_t, bool)
 
237
unsigned char *Field_int64_t::pack(unsigned char* to, const unsigned char *from,
 
238
                                         uint32_t,
 
239
#ifdef WORDS_BIGENDIAN
 
240
                                         bool low_byte_first
 
241
#else
 
242
                                         bool
 
243
#endif
 
244
)
214
245
{
215
246
  int64_t val;
216
 
 
217
 
  int64_tget(val, from);
218
 
  int64_tstore(to, val);
219
 
 
 
247
#ifdef WORDS_BIGENDIAN
 
248
  if (table->s->db_low_byte_first)
 
249
     val = sint8korr(from);
 
250
  else
 
251
#endif
 
252
    int64_tget(val, from);
 
253
 
 
254
#ifdef WORDS_BIGENDIAN
 
255
  if (low_byte_first)
 
256
    int8store(to, val);
 
257
  else
 
258
#endif
 
259
    int64_tstore(to, val);
220
260
  return to + sizeof(val);
221
261
}
222
262
 
223
263
 
224
 
const unsigned char *Int64::unpack(unsigned char* to, const unsigned char *from, uint32_t, bool)
 
264
const unsigned char *Field_int64_t::unpack(unsigned char* to, const unsigned char *from, uint32_t,
 
265
#ifdef WORDS_BIGENDIAN
 
266
                                           bool low_byte_first
 
267
#else
 
268
                                           bool
 
269
#endif
 
270
)
225
271
{
226
272
  int64_t val;
227
 
 
228
 
  int64_tget(val, from);
229
 
  int64_tstore(to, val);
230
 
 
 
273
#ifdef WORDS_BIGENDIAN
 
274
  if (low_byte_first)
 
275
    val = sint8korr(from);
 
276
  else
 
277
#endif
 
278
    int64_tget(val, from);
 
279
 
 
280
#ifdef WORDS_BIGENDIAN
 
281
  if (table->s->db_low_byte_first)
 
282
    int8store(to, val);
 
283
  else
 
284
#endif
 
285
    int64_tstore(to, val);
231
286
  return from + sizeof(val);
232
287
}
233
288
 
234
 
} /* namespace field */
235
 
} /* namespace drizzled */