← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/function/numhybrid.cc

  • Committer: Brian Aker
  • Date: 2010-01-22 00:53:13 UTC
  • Revision ID: brian@gaz-20100122005313-jmizcbcdi1lt4tcx
Revert db patch.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/function/numhybrid.cc
1
1
/* -*- mode: c++; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
 
 *  Copyright (C) 2008 Sun Microsystems, Inc.
 
4
 *  Copyright (C) 2008 Sun Microsystems
5
5
 *
6
6
 *  This program is free software; you can redistribute it and/or modify
7
7
 *  it under the terms of the GNU General Public License as published by
17
17
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18
18
 */
19
19
 
20
 
#include <config.h>
 
20
#include "config.h"
21
21
#include <math.h>
22
22
#include <drizzled/function/numhybrid.h>
23
23
 
24
 
namespace drizzled
25
 
{
26
 
 
27
24
void Item_func_numhybrid::fix_num_length_and_dec()
28
25
{}
29
26
 
38
35
  assert(fixed == 1);
39
36
  switch (hybrid_type) {
40
37
  case DECIMAL_RESULT:
41
 
    {
42
 
      type::Decimal decimal_value, *val;
43
 
      if (!(val= decimal_op(&decimal_value)))
44
 
        return 0;                                 // null is set
45
 
      class_decimal_round(E_DEC_FATAL_ERROR, val, decimals, false, val);
46
 
      class_decimal2string(val, 0, str);
47
 
      break;
48
 
    }
 
38
  {
 
39
    my_decimal decimal_value, *val;
 
40
    if (!(val= decimal_op(&decimal_value)))
 
41
      return 0;                                 // null is set
 
42
    my_decimal_round(E_DEC_FATAL_ERROR, val, decimals, false, val);
 
43
    my_decimal2string(E_DEC_FATAL_ERROR, val, 0, 0, 0, str);
 
44
    break;
 
45
  }
49
46
  case INT_RESULT:
50
 
    {
51
 
      int64_t nr= int_op();
52
 
      if (null_value)
53
 
        return 0;
54
 
      str->set_int(nr, unsigned_flag, &my_charset_bin);
55
 
      break;
56
 
    }
 
47
  {
 
48
    int64_t nr= int_op();
 
49
    if (null_value)
 
50
      return 0;
 
51
    str->set_int(nr, unsigned_flag, &my_charset_bin);
 
52
    break;
 
53
  }
57
54
  case REAL_RESULT:
58
 
    {
59
 
      double nr= real_op();
60
 
      if (null_value)
61
 
        return 0;
62
 
      str->set_real(nr,decimals,&my_charset_bin);
63
 
      break;
64
 
    }
 
55
  {
 
56
    double nr= real_op();
 
57
    if (null_value)
 
58
      return 0;
 
59
    str->set_real(nr,decimals,&my_charset_bin);
 
60
    break;
 
61
  }
65
62
  case STRING_RESULT:
66
63
    return str_op(&str_value);
67
 
  case ROW_RESULT:
 
64
  default:
68
65
    assert(0);
69
66
  }
70
67
  return str;
76
73
  assert(fixed == 1);
77
74
  switch (hybrid_type) {
78
75
  case DECIMAL_RESULT:
79
 
    {
80
 
      type::Decimal decimal_value, *val;
81
 
      double result;
82
 
      if (!(val= decimal_op(&decimal_value)))
83
 
        return 0.0;                               // null is set
84
 
      class_decimal2double(E_DEC_FATAL_ERROR, val, &result);
85
 
      return result;
86
 
    }
 
76
  {
 
77
    my_decimal decimal_value, *val;
 
78
    double result;
 
79
    if (!(val= decimal_op(&decimal_value)))
 
80
      return 0.0;                               // null is set
 
81
    my_decimal2double(E_DEC_FATAL_ERROR, val, &result);
 
82
    return result;
 
83
  }
87
84
  case INT_RESULT:
88
 
    {
89
 
      int64_t result= int_op();
90
 
      return unsigned_flag ? (double) ((uint64_t) result) : (double) result;
91
 
    }
 
85
  {
 
86
    int64_t result= int_op();
 
87
    return unsigned_flag ? (double) ((uint64_t) result) : (double) result;
 
88
  }
92
89
  case REAL_RESULT:
93
90
    return real_op();
94
91
  case STRING_RESULT:
95
 
    {
96
 
      char *end_not_used;
97
 
      int err_not_used;
98
 
      String *res= str_op(&str_value);
99
 
      return (res ? my_strntod(res->charset(), (char*) res->ptr(), res->length(),
100
 
                               &end_not_used, &err_not_used) : 0.0);
101
 
    }
102
 
  case ROW_RESULT:
 
92
  {
 
93
    char *end_not_used;
 
94
    int err_not_used;
 
95
    String *res= str_op(&str_value);
 
96
    return (res ? my_strntod(res->charset(), (char*) res->ptr(), res->length(),
 
97
                             &end_not_used, &err_not_used) : 0.0);
 
98
  }
 
99
  default:
103
100
    assert(0);
104
101
  }
105
 
 
106
102
  return 0.0;
107
103
}
108
104
 
112
108
  assert(fixed == 1);
113
109
  switch (hybrid_type) {
114
110
  case DECIMAL_RESULT:
115
 
    {
116
 
      type::Decimal decimal_value, *val;
117
 
      if (!(val= decimal_op(&decimal_value)))
118
 
        return 0;                                 // null is set
119
 
      int64_t result;
120
 
      val->val_int32(E_DEC_FATAL_ERROR, unsigned_flag, &result);
121
 
      return result;
122
 
    }
 
111
  {
 
112
    my_decimal decimal_value, *val;
 
113
    if (!(val= decimal_op(&decimal_value)))
 
114
      return 0;                                 // null is set
 
115
    int64_t result;
 
116
    my_decimal2int(E_DEC_FATAL_ERROR, val, unsigned_flag, &result);
 
117
    return result;
 
118
  }
123
119
  case INT_RESULT:
124
120
    return int_op();
125
121
  case REAL_RESULT:
126
122
    return (int64_t) rint(real_op());
127
123
  case STRING_RESULT:
128
 
    {
129
 
      int err_not_used;
130
 
      String *res;
131
 
      if (!(res= str_op(&str_value)))
132
 
        return 0;
 
124
  {
 
125
    int err_not_used;
 
126
    String *res;
 
127
    if (!(res= str_op(&str_value)))
 
128
      return 0;
133
129
 
134
 
      char *end= (char*) res->ptr() + res->length();
135
 
      const CHARSET_INFO * const cs= str_value.charset();
136
 
      return (*(cs->cset->strtoll10))(cs, res->ptr(), &end, &err_not_used);
137
 
    }
138
 
  case ROW_RESULT:
 
130
    char *end= (char*) res->ptr() + res->length();
 
131
    const CHARSET_INFO * const cs= str_value.charset();
 
132
    return (*(cs->cset->strtoll10))(cs, res->ptr(), &end, &err_not_used);
 
133
  }
 
134
  default:
139
135
    assert(0);
140
136
  }
141
137
  return 0;
142
138
}
143
139
 
144
140
 
145
 
type::Decimal *Item_func_numhybrid::val_decimal(type::Decimal *decimal_value)
 
141
my_decimal *Item_func_numhybrid::val_decimal(my_decimal *decimal_value)
146
142
{
147
 
  type::Decimal *val= decimal_value;
 
143
  my_decimal *val= decimal_value;
148
144
  assert(fixed == 1);
149
 
 
150
145
  switch (hybrid_type) {
151
146
  case DECIMAL_RESULT:
152
147
    val= decimal_op(decimal_value);
153
148
    break;
154
149
  case INT_RESULT:
155
 
    {
156
 
      int64_t result= int_op();
157
 
      int2_class_decimal(E_DEC_FATAL_ERROR, result, unsigned_flag, decimal_value);
158
 
      break;
159
 
    }
 
150
  {
 
151
    int64_t result= int_op();
 
152
    int2my_decimal(E_DEC_FATAL_ERROR, result, unsigned_flag, decimal_value);
 
153
    break;
 
154
  }
160
155
  case REAL_RESULT:
161
 
    {
162
 
      double result= (double)real_op();
163
 
      double2_class_decimal(E_DEC_FATAL_ERROR, result, decimal_value);
164
 
      break;
165
 
    }
 
156
  {
 
157
    double result= (double)real_op();
 
158
    double2my_decimal(E_DEC_FATAL_ERROR, result, decimal_value);
 
159
    break;
 
160
  }
166
161
  case STRING_RESULT:
167
 
    {
168
 
      String *res;
169
 
      if (!(res= str_op(&str_value)))
170
 
        return NULL;
 
162
  {
 
163
    String *res;
 
164
    if (!(res= str_op(&str_value)))
 
165
      return NULL;
171
166
 
172
 
      decimal_value->store(E_DEC_FATAL_ERROR, (char*) res->ptr(),
173
 
                           res->length(), res->charset());
174
 
      break;
175
 
    }
 
167
    str2my_decimal(E_DEC_FATAL_ERROR, (char*) res->ptr(),
 
168
                   res->length(), res->charset(), decimal_value);
 
169
    break;
 
170
  }
176
171
  case ROW_RESULT:
 
172
  default:
177
173
    assert(0);
178
174
  }
179
 
 
180
175
  return val;
181
176
}
182
 
 
183
 
} /* namespace drizzled */