← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/field/int32.cc

  • Committer: Brian Aker
  • Date: 2010-12-20 19:20:57 UTC
  • mto: This revision was merged to the branch mainline in revision 2016.
  • Revision ID: brian@tangent.org-20101220192057-1ch4b9uo008d8rje
Merge in additional fixes for sign, plus alter table, plus TIME on
processlist.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/field/int32.cc
20
20
 
21
21
 
22
22
#include "config.h"
23
 
#include <drizzled/field/long.h>
 
23
#include <drizzled/field/int32.h>
24
24
#include <drizzled/error.h>
25
25
#include <drizzled/table.h>
26
26
#include <drizzled/session.h>
34
34
namespace drizzled
35
35
{
36
36
 
 
37
namespace field
 
38
{
 
39
 
37
40
/****************************************************************************
38
 
** long int
39
 
****************************************************************************/
40
 
 
41
 
int Field_long::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
42
 
{
43
 
  long store_tmp;
44
 
  int error;
45
 
  int64_t rnd;
46
 
 
47
 
  ASSERT_COLUMN_MARKED_FOR_WRITE;
48
 
 
49
 
  error= get_int(cs, from, len, &rnd, UINT32_MAX, INT32_MIN, INT32_MAX);
50
 
  store_tmp= (long) rnd;
51
 
#ifdef WORDS_BIGENDIAN
52
 
  if (getTable()->getShare()->db_low_byte_first)
 
41
 ** Int32
 
42
 ****************************************************************************/
 
43
 
 
44
  int Int32::store(const char *from,uint32_t len, const CHARSET_INFO * const cs)
53
45
  {
54
 
    int4store(ptr, store_tmp);
55
 
  }
56
 
  else
57
 
#endif
 
46
    long store_tmp;
 
47
    int error;
 
48
    int64_t rnd;
 
49
 
 
50
    ASSERT_COLUMN_MARKED_FOR_WRITE;
 
51
 
 
52
    error= get_int(cs, from, len, &rnd, UINT32_MAX, INT32_MIN, INT32_MAX);
 
53
    store_tmp= (long) rnd;
58
54
    longstore(ptr, store_tmp);
59
 
  return error;
60
 
}
61
 
 
62
 
 
63
 
int Field_long::store(double nr)
64
 
{
65
 
  int error= 0;
66
 
  int32_t res;
67
 
  nr=rint(nr);
68
 
 
69
 
  ASSERT_COLUMN_MARKED_FOR_WRITE;
70
 
 
71
 
  if (nr < (double) INT32_MIN)
72
 
  {
73
 
    res=(int32_t) INT32_MIN;
74
 
    error= 1;
75
 
  }
76
 
  else if (nr > (double) INT32_MAX)
77
 
  {
78
 
    res=(int32_t) INT32_MAX;
79
 
    error= 1;
80
 
  }
81
 
  else
82
 
    res=(int32_t) (int64_t) nr;
83
 
 
84
 
  if (error)
85
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
86
 
 
87
 
#ifdef WORDS_BIGENDIAN
88
 
  if (getTable()->getShare()->db_low_byte_first)
89
 
  {
90
 
    int4store(ptr,res);
91
 
  }
92
 
  else
93
 
#endif
94
 
    longstore(ptr,res);
95
 
  return error;
96
 
}
97
 
 
98
 
 
99
 
int Field_long::store(int64_t nr, bool unsigned_val)
100
 
{
101
 
  int error= 0;
102
 
  int32_t res;
103
 
 
104
 
  ASSERT_COLUMN_MARKED_FOR_WRITE;
105
 
 
106
 
  if (nr < 0 && unsigned_val)
107
 
    nr= ((int64_t) INT32_MAX) + 1;           // Generate overflow
108
 
  if (nr < (int64_t) INT32_MIN)
109
 
  {
110
 
    res=(int32_t) INT32_MIN;
111
 
    error= 1;
112
 
  }
113
 
  else if (nr > (int64_t) INT32_MAX)
114
 
  {
115
 
    res=(int32_t) INT32_MAX;
116
 
    error= 1;
117
 
  }
118
 
  else
119
 
    res=(int32_t) nr;
120
 
 
121
 
  if (error)
122
 
    set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
123
 
 
124
 
#ifdef WORDS_BIGENDIAN
125
 
  if (getTable()->getShare()->db_low_byte_first)
126
 
  {
127
 
    int4store(ptr,res);
128
 
  }
129
 
  else
130
 
#endif
131
 
    longstore(ptr,res);
132
 
  return error;
133
 
}
134
 
 
135
 
 
136
 
double Field_long::val_real(void)
137
 
{
138
 
  int32_t j;
139
 
 
140
 
  ASSERT_COLUMN_MARKED_FOR_READ;
141
 
 
142
 
#ifdef WORDS_BIGENDIAN
143
 
  if (getTable()->getShare()->db_low_byte_first)
144
 
    j=sint4korr(ptr);
145
 
  else
146
 
#endif
147
 
    longget(j,ptr);
148
 
  return (double) j;
149
 
}
150
 
 
151
 
int64_t Field_long::val_int(void)
152
 
{
153
 
  int32_t j;
154
 
 
155
 
  ASSERT_COLUMN_MARKED_FOR_READ;
156
 
 
157
 
  /* See the comment in Field_long::store(int64_t) */
158
 
#ifdef WORDS_BIGENDIAN
159
 
  if (getTable()->getShare()->db_low_byte_first)
160
 
    j=sint4korr(ptr);
161
 
  else
162
 
#endif
163
 
    longget(j,ptr);
164
 
  return (int64_t) j;
165
 
}
166
 
 
167
 
String *Field_long::val_str(String *val_buffer,
168
 
                            String *)
169
 
{
170
 
  const CHARSET_INFO * const cs= &my_charset_bin;
171
 
  uint32_t length;
172
 
  uint32_t mlength= max(field_length+1,12*cs->mbmaxlen);
173
 
  val_buffer->alloc(mlength);
174
 
  char *to=(char*) val_buffer->ptr();
175
 
  int32_t j;
176
 
 
177
 
  ASSERT_COLUMN_MARKED_FOR_READ;
178
 
 
179
 
#ifdef WORDS_BIGENDIAN
180
 
  if (getTable()->getShare()->db_low_byte_first)
181
 
    j=sint4korr(ptr);
182
 
  else
183
 
#endif
184
 
    longget(j,ptr);
185
 
 
186
 
  length=cs->cset->long10_to_str(cs,to,mlength,-10,(long) j);
187
 
  val_buffer->length(length);
188
 
 
189
 
  return val_buffer;
190
 
}
191
 
 
192
 
int Field_long::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
193
 
{
194
 
  int32_t a,b;
195
 
#ifdef WORDS_BIGENDIAN
196
 
  if (getTable()->getShare()->db_low_byte_first)
197
 
  {
198
 
    a=sint4korr(a_ptr);
199
 
    b=sint4korr(b_ptr);
200
 
  }
201
 
  else
202
 
#endif
203
 
  {
 
55
 
 
56
    return error;
 
57
  }
 
58
 
 
59
 
 
60
  int Int32::store(double nr)
 
61
  {
 
62
    int error= 0;
 
63
    int32_t res;
 
64
    nr=rint(nr);
 
65
 
 
66
    ASSERT_COLUMN_MARKED_FOR_WRITE;
 
67
 
 
68
    if (nr < (double) INT32_MIN)
 
69
    {
 
70
      res=(int32_t) INT32_MIN;
 
71
      error= 1;
 
72
    }
 
73
    else if (nr > (double) INT32_MAX)
 
74
    {
 
75
      res=(int32_t) INT32_MAX;
 
76
      error= 1;
 
77
    }
 
78
    else
 
79
      res=(int32_t) (int64_t) nr;
 
80
 
 
81
    if (error)
 
82
      set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
83
 
 
84
    longstore(ptr,res);
 
85
 
 
86
    return error;
 
87
  }
 
88
 
 
89
 
 
90
  int Int32::store(int64_t nr, bool unsigned_val)
 
91
  {
 
92
    int error= 0;
 
93
    int32_t res;
 
94
 
 
95
    ASSERT_COLUMN_MARKED_FOR_WRITE;
 
96
 
 
97
    if (nr < 0 && unsigned_val)
 
98
      nr= ((int64_t) INT32_MAX) + 1;           // Generate overflow
 
99
 
 
100
    if (nr < (int64_t) INT32_MIN)
 
101
    {
 
102
      res=(int32_t) INT32_MIN;
 
103
      error= 1;
 
104
    }
 
105
    else if (nr > (int64_t) INT32_MAX)
 
106
    {
 
107
      res=(int32_t) INT32_MAX;
 
108
      error= 1;
 
109
    }
 
110
    else
 
111
    {
 
112
      res=(int32_t) nr;
 
113
    }
 
114
 
 
115
    if (error)
 
116
      set_warning(DRIZZLE_ERROR::WARN_LEVEL_WARN, ER_WARN_DATA_OUT_OF_RANGE, 1);
 
117
 
 
118
    longstore(ptr,res);
 
119
 
 
120
    return error;
 
121
  }
 
122
 
 
123
 
 
124
  double Int32::val_real(void)
 
125
  {
 
126
    int32_t j;
 
127
 
 
128
    ASSERT_COLUMN_MARKED_FOR_READ;
 
129
 
 
130
    longget(j,ptr);
 
131
 
 
132
    return (double) j;
 
133
  }
 
134
 
 
135
  int64_t Int32::val_int(void)
 
136
  {
 
137
    int32_t j;
 
138
 
 
139
    ASSERT_COLUMN_MARKED_FOR_READ;
 
140
 
 
141
    longget(j,ptr);
 
142
 
 
143
    return (int64_t) j;
 
144
  }
 
145
 
 
146
  String *Int32::val_str(String *val_buffer, String *)
 
147
  {
 
148
    const CHARSET_INFO * const cs= &my_charset_bin;
 
149
    uint32_t length;
 
150
    uint32_t mlength= max(field_length+1,12*cs->mbmaxlen);
 
151
    val_buffer->alloc(mlength);
 
152
    char *to=(char*) val_buffer->ptr();
 
153
    int32_t j;
 
154
 
 
155
    ASSERT_COLUMN_MARKED_FOR_READ;
 
156
 
 
157
    longget(j,ptr);
 
158
 
 
159
    length=cs->cset->long10_to_str(cs,to,mlength,-10,(long) j);
 
160
    val_buffer->length(length);
 
161
 
 
162
    return val_buffer;
 
163
  }
 
164
 
 
165
  int Int32::cmp(const unsigned char *a_ptr, const unsigned char *b_ptr)
 
166
  {
 
167
    int32_t a,b;
 
168
 
204
169
    longget(a,a_ptr);
205
170
    longget(b,b_ptr);
206
 
  }
207
 
 
208
 
  return (a < b) ? -1 : (a > b) ? 1 : 0;
209
 
}
210
 
 
211
 
void Field_long::sort_string(unsigned char *to,uint32_t )
212
 
{
213
 
#ifdef WORDS_BIGENDIAN
214
 
  if (!getTable()->getShare()->db_low_byte_first)
215
 
  {
216
 
    to[0] = (char) (ptr[0] ^ 128);              /* Revers signbit */
217
 
    to[1]   = ptr[1];
218
 
    to[2]   = ptr[2];
219
 
    to[3]   = ptr[3];
220
 
  }
221
 
  else
222
 
#endif
223
 
  {
224
 
    to[0] = (char) (ptr[3] ^ 128);              /* Revers signbit */
225
 
    to[1]   = ptr[2];
226
 
    to[2]   = ptr[1];
227
 
    to[3]   = ptr[0];
228
 
  }
229
 
}
230
 
 
231
 
 
232
 
void Field_long::sql_type(String &res) const
233
 
{
234
 
  const CHARSET_INFO * const cs=res.charset();
235
 
  res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(), "int"));
236
 
}
237
 
 
238
 
unsigned char *Field_long::pack(unsigned char* to, const unsigned char *from,
239
 
                                         uint32_t,
240
 
#ifdef WORDS_BIGENDIAN
241
 
                                         bool low_byte_first
242
 
#else
243
 
                                         bool
244
 
#endif
245
 
)
246
 
{
247
 
  int32_t val;
248
 
#ifdef WORDS_BIGENDIAN
249
 
  if (getTable()->getShare()->db_low_byte_first)
250
 
    val = sint4korr(from);
251
 
  else
252
 
#endif
253
 
    longget(val, from);
254
 
 
255
 
#ifdef WORDS_BIGENDIAN
256
 
  if (low_byte_first)
257
 
    int4store(to, val);
258
 
  else
259
 
#endif
260
 
    longstore(to, val);
261
 
  return to + sizeof(val);
262
 
}
263
 
 
264
 
 
265
 
const unsigned char *Field_long::unpack(unsigned char* to, const unsigned char *from, uint32_t,
266
 
#ifdef WORDS_BIGENDIAN
267
 
                                           bool low_byte_first
268
 
#else
269
 
                                           bool
270
 
#endif
271
 
)
272
 
{
273
 
  int32_t val;
274
 
#ifdef WORDS_BIGENDIAN
275
 
  if (low_byte_first)
276
 
    val = sint4korr(from);
277
 
  else
278
 
#endif
279
 
    longget(val, from);
280
 
 
281
 
#ifdef WORDS_BIGENDIAN
282
 
  if (getTable()->getShare()->db_low_byte_first)
283
 
    int4store(to, val);
284
 
  else
285
 
#endif
286
 
    longstore(to, val);
287
 
  return from + sizeof(val);
288
 
}
289
 
 
 
171
 
 
172
    return (a < b) ? -1 : (a > b) ? 1 : 0;
 
173
  }
 
174
 
 
175
  void Int32::sort_string(unsigned char *to,uint32_t )
 
176
  {
 
177
#ifdef WORDS_BIGENDIAN
 
178
    {
 
179
      to[0] = (char) (ptr[0] ^ 128);            /* Revers signbit */
 
180
      to[1]   = ptr[1];
 
181
      to[2]   = ptr[2];
 
182
      to[3]   = ptr[3];
 
183
    }
 
184
#else
 
185
    {
 
186
      to[0] = (char) (ptr[3] ^ 128);            /* Revers signbit */
 
187
      to[1]   = ptr[2];
 
188
      to[2]   = ptr[1];
 
189
      to[3]   = ptr[0];
 
190
    }
 
191
#endif
 
192
  }
 
193
 
 
194
 
 
195
  void Int32::sql_type(String &res) const
 
196
  {
 
197
    const CHARSET_INFO * const cs=res.charset();
 
198
    res.length(cs->cset->snprintf(cs,(char*) res.ptr(),res.alloced_length(), "int"));
 
199
  }
 
200
 
 
201
  unsigned char *Int32::pack(unsigned char* to, const unsigned char *from, uint32_t, bool)
 
202
  {
 
203
    int32_t val;
 
204
    longget(val, from);
 
205
 
 
206
    longstore(to, val);
 
207
    return to + sizeof(val);
 
208
  }
 
209
 
 
210
 
 
211
  const unsigned char *Int32::unpack(unsigned char* to, const unsigned char *from, uint32_t, bool)
 
212
  {
 
213
    int32_t val;
 
214
    longget(val, from);
 
215
 
 
216
    longstore(to, val);
 
217
 
 
218
    return from + sizeof(val);
 
219
  }
 
220
 
 
221
} /* namespace field */
290
222
} /* namespace drizzled */