← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/function/math/divide.cc

  • Committer: Brian Aker
  • Date: 2008-10-06 06:47:29 UTC
  • Revision ID: brian@tangent.org-20081006064729-2i9mhjkzyvow9xsm
Remove uint.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/function/math/divide.cc
1
 
/* -*- mode: c++; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
 
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
 
 *
4
 
 *  Copyright (C) 2008 Sun Microsystems
5
 
 *
6
 
 *  This program is free software; you can redistribute it and/or modify
7
 
 *  it under the terms of the GNU General Public License as published by
8
 
 *  the Free Software Foundation; version 2 of the License.
9
 
 *
10
 
 *  This program is distributed in the hope that it will be useful,
11
 
 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
12
 
 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
 
 *  GNU General Public License for more details.
14
 
 *
15
 
 *  You should have received a copy of the GNU General Public License
16
 
 *  along with this program; if not, write to the Free Software
17
 
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18
 
 */
19
 
 
20
 
#include <drizzled/server_includes.h>
21
 
#include CSTDINT_H
22
 
#include <drizzled/function/math/divide.h>
23
 
#include <drizzled/session.h>
24
 
 
25
 
#include <algorithm>
26
 
 
27
 
using namespace std;
28
 
 
29
 
double Item_func_div::real_op()
30
 
{
31
 
  assert(fixed == 1);
32
 
  double value= args[0]->val_real();
33
 
  double val2= args[1]->val_real();
34
 
  if ((null_value= args[0]->null_value || args[1]->null_value))
35
 
    return 0.0;
36
 
  if (val2 == 0.0)
37
 
  {
38
 
    signal_divide_by_null();
39
 
    return 0.0;
40
 
  }
41
 
  return fix_result(value/val2);
42
 
}
43
 
 
44
 
 
45
 
my_decimal *Item_func_div::decimal_op(my_decimal *decimal_value)
46
 
{
47
 
  my_decimal value1, *val1;
48
 
  my_decimal value2, *val2;
49
 
  int err;
50
 
 
51
 
  val1= args[0]->val_decimal(&value1);
52
 
  if ((null_value= args[0]->null_value))
53
 
    return 0;
54
 
  val2= args[1]->val_decimal(&value2);
55
 
  if ((null_value= args[1]->null_value))
56
 
    return 0;
57
 
  if ((err= my_decimal_div(E_DEC_FATAL_ERROR & ~E_DEC_DIV_ZERO, decimal_value,
58
 
                           val1, val2, prec_increment)) > 3)
59
 
  {
60
 
    if (err == E_DEC_DIV_ZERO)
61
 
      signal_divide_by_null();
62
 
    null_value= 1;
63
 
    return 0;
64
 
  }
65
 
  return decimal_value;
66
 
}
67
 
 
68
 
 
69
 
void Item_func_div::result_precision()
70
 
{
71
 
  uint32_t precision= min(args[0]->decimal_precision() + prec_increment,
72
 
                          (unsigned int)DECIMAL_MAX_PRECISION);
73
 
  /* Integer operations keep unsigned_flag if one of arguments is unsigned */
74
 
  if (result_type() == INT_RESULT)
75
 
    unsigned_flag= args[0]->unsigned_flag | args[1]->unsigned_flag;
76
 
  else
77
 
    unsigned_flag= args[0]->unsigned_flag & args[1]->unsigned_flag;
78
 
 
79
 
  decimals= min(args[0]->decimals + prec_increment, (unsigned int)DECIMAL_MAX_SCALE);
80
 
  max_length= my_decimal_precision_to_length(precision, decimals,
81
 
                                             unsigned_flag);
82
 
}
83
 
 
84
 
 
85
 
void Item_func_div::fix_length_and_dec()
86
 
{
87
 
  prec_increment= current_session->variables.div_precincrement;
88
 
  Item_num_op::fix_length_and_dec();
89
 
 
90
 
  switch(hybrid_type)
91
 
  {
92
 
  case REAL_RESULT:
93
 
  {
94
 
    decimals= max(args[0]->decimals,args[1]->decimals)+prec_increment;
95
 
    set_if_smaller(decimals, NOT_FIXED_DEC);
96
 
    max_length= args[0]->max_length - args[0]->decimals + decimals;
97
 
    uint32_t tmp= float_length(decimals);
98
 
    set_if_smaller(max_length,tmp);
99
 
    break;
100
 
  }
101
 
  case INT_RESULT:
102
 
    hybrid_type= DECIMAL_RESULT;
103
 
    result_precision();
104
 
    break;
105
 
  case DECIMAL_RESULT:
106
 
    result_precision();
107
 
    break;
108
 
  default:
109
 
    assert(0);
110
 
  }
111
 
  maybe_null= 1; // devision by zero
112
 
  return;
113
 
}
114