← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/int64.cc

  • Committer: Brian Aker
  • Date: 2010-12-20 19:24:24 UTC
  • mfrom: (2008.2.5 integer-refactor)
  • Revision ID: brian@tangent.org-20101220192424-iyccxsagvuw43kaz
A rather large and tasty cleanup of issues around ints, and one additional
fix for alter table.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/int64.cc
56
56
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
57
57
    error= 1;
58
58
  }
59
 
  else if (getTable()->in_use->count_cuted_fields &&
60
 
           check_int(cs, from, len, end, error))
 
59
  else if (getTable()->in_use->count_cuted_fields && check_int(cs, from, len, end, error))
 
60
  {
61
61
    error= 1;
 
62
  }
62
63
  else
 
64
  {
63
65
    error= 0;
64
 
#ifdef WORDS_BIGENDIAN
65
 
  if (getTable()->getShare()->db_low_byte_first)
66
 
  {
67
 
    int8store(ptr,tmp);
68
66
  }
69
 
  else
70
 
#endif
71
 
    int64_tstore(ptr,tmp);
 
67
 
 
68
  int64_tstore(ptr,tmp);
 
69
 
72
70
  return error;
73
71
}
74
72
 
93
91
    error= (nr > (double) INT64_MAX);
94
92
  }
95
93
  else
 
94
  {
96
95
    res=(int64_t) nr;
 
96
  }
97
97
 
98
98
  if (error)
99
99
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
100
100
 
101
 
#ifdef WORDS_BIGENDIAN
102
 
  if (getTable()->getShare()->db_low_byte_first)
103
 
  {
104
 
    int8store(ptr,res);
105
 
  }
106
 
  else
107
 
#endif
108
 
    int64_tstore(ptr,res);
 
101
  int64_tstore(ptr, res);
 
102
 
109
103
  return error;
110
104
}
111
105
 
112
106
 
113
 
int Int64::store(int64_t nr, bool )
 
107
int Int64::store(int64_t nr, bool arg)
114
108
{
115
109
  int error= 0;
 
110
  (void)arg;
116
111
 
117
112
  ASSERT_COLUMN_MARKED_FOR_WRITE;
118
 
 
119
 
#ifdef WORDS_BIGENDIAN
120
 
  if (getTable()->getShare()->db_low_byte_first)
 
113
  if (arg and (nr < 0)) // Only a partial fix for overflow
121
114
  {
122
 
    int8store(ptr,nr);
 
115
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
116
    error= 1;
123
117
  }
124
 
  else
125
 
#endif
126
 
    int64_tstore(ptr,nr);
 
118
 
 
119
  int64_tstore(ptr,nr);
 
120
 
127
121
  return error;
128
122
}
129
123
 
134
128
 
135
129
  ASSERT_COLUMN_MARKED_FOR_READ;
136
130
 
137
 
#ifdef WORDS_BIGENDIAN
138
 
  if (getTable()->getShare()->db_low_byte_first)
139
 
  {
140
 
    j=sint8korr(ptr);
141
 
  }
142
 
  else
143
 
#endif
144
 
    int64_tget(j,ptr);
 
131
  int64_tget(j,ptr);
145
132
  /* The following is open coded to avoid a bug in gcc 3.3 */
 
133
 
146
134
  return (double) j;
147
135
}
148
136
 
153
141
 
154
142
  ASSERT_COLUMN_MARKED_FOR_READ;
155
143
 
156
 
#ifdef WORDS_BIGENDIAN
157
 
  if (getTable()->getShare()->db_low_byte_first)
158
 
    j=sint8korr(ptr);
159
 
  else
160
 
#endif
161
 
    int64_tget(j,ptr);
 
144
  int64_tget(j,ptr);
 
145
 
162
146
  return j;
163
147
}
164
148
 
165
149
 
166
 
String *Int64::val_str(String *val_buffer,
167
 
                       String *)
 
150
String *Int64::val_str(String *val_buffer, String *)
168
151
{
169
152
  const CHARSET_INFO * const cs= &my_charset_bin;
170
153
  uint32_t length;
175
158
 
176
159
  ASSERT_COLUMN_MARKED_FOR_READ;
177
160
 
178
 
#ifdef WORDS_BIGENDIAN
179
 
  if (getTable()->getShare()->db_low_byte_first)
180
 
    j=sint8korr(ptr);
181
 
  else
182
 
#endif
183
 
    int64_tget(j,ptr);
 
161
  int64_tget(j,ptr);
184
162
 
185
163
  length=(uint32_t) (cs->cset->int64_t10_to_str)(cs,to,mlength, -10, j);
186
164
  val_buffer->length(length);
191
169
int Int64::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
192
170
{
193
171
  int64_t a,b;
194
 
#ifdef WORDS_BIGENDIAN
195
 
  if (getTable()->getShare()->db_low_byte_first)
196
 
  {
197
 
    a=sint8korr(a_ptr);
198
 
    b=sint8korr(b_ptr);
199
 
  }
200
 
  else
201
 
#endif
202
 
  {
203
 
    int64_tget(a,a_ptr);
204
 
    int64_tget(b,b_ptr);
205
 
  }
 
172
 
 
173
  int64_tget(a,a_ptr);
 
174
  int64_tget(b,b_ptr);
 
175
 
206
176
  return (a < b) ? -1 : (a > b) ? 1 : 0;
207
177
}
208
178
 
209
179
void Int64::sort_string(unsigned char *to,uint32_t )
210
180
{
211
181
#ifdef WORDS_BIGENDIAN
212
 
  if (!getTable()->getShare()->db_low_byte_first)
213
182
  {
214
183
    to[0] = (char) (ptr[0] ^ 128);              /* Revers signbit */
215
184
    to[1]   = ptr[1];
220
189
    to[6]   = ptr[6];
221
190
    to[7]   = ptr[7];
222
191
  }
223
 
  else
224
 
#endif
 
192
#else
225
193
  {
226
194
    to[0] = (char) (ptr[7] ^ 128);              /* Revers signbit */
227
195
    to[1]   = ptr[6];
232
200
    to[6]   = ptr[1];
233
201
    to[7]   = ptr[0];
234
202
  }
 
203
#endif
235
204
}
236
205
 
237
206
 
242
211
}
243
212
 
244
213
 
245
 
unsigned char *Int64::pack(unsigned char* to, const unsigned char *from,
246
 
                           uint32_t,
247
 
#ifdef WORDS_BIGENDIAN
248
 
                           bool low_byte_first
249
 
#else
250
 
                           bool
251
 
#endif
252
 
                          )
 
214
unsigned char *Int64::pack(unsigned char* to, const unsigned char *from, uint32_t, bool)
253
215
{
254
216
  int64_t val;
255
 
#ifdef WORDS_BIGENDIAN
256
 
  if (getTable()->getShare()->db_low_byte_first)
257
 
    val = sint8korr(from);
258
 
  else
259
 
#endif
260
 
    int64_tget(val, from);
261
 
 
262
 
#ifdef WORDS_BIGENDIAN
263
 
  if (low_byte_first)
264
 
    int8store(to, val);
265
 
  else
266
 
#endif
267
 
    int64_tstore(to, val);
 
217
 
 
218
  int64_tget(val, from);
 
219
  int64_tstore(to, val);
 
220
 
268
221
  return to + sizeof(val);
269
222
}
270
223
 
271
224
 
272
 
const unsigned char *Int64::unpack(unsigned char* to, const unsigned char *from, uint32_t,
273
 
#ifdef WORDS_BIGENDIAN
274
 
                                   bool low_byte_first
275
 
#else
276
 
                                   bool
277
 
#endif
278
 
                                  )
 
225
const unsigned char *Int64::unpack(unsigned char* to, const unsigned char *from, uint32_t, bool)
279
226
{
280
227
  int64_t val;
281
 
#ifdef WORDS_BIGENDIAN
282
 
  if (low_byte_first)
283
 
    val = sint8korr(from);
284
 
  else
285
 
#endif
286
 
    int64_tget(val, from);
287
 
 
288
 
#ifdef WORDS_BIGENDIAN
289
 
  if (getTable()->getShare()->db_low_byte_first)
290
 
    int8store(to, val);
291
 
  else
292
 
#endif
293
 
    int64_tstore(to, val);
 
228
 
 
229
  int64_tget(val, from);
 
230
  int64_tstore(to, val);
 
231
 
294
232
  return from + sizeof(val);
295
233
}
296
234