← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/functions/divide.cc

  • Committer: Brian Aker
  • Date: 2008-09-04 19:31:00 UTC
  • Revision ID: brian@tangent.org-20080904193100-l849hgghfy4urj43
Changing default character set from this point on.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/functions/divide.cc
1
 
/* -*- mode: c++; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
 
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
 
 *
4
 
 *  Copyright (C) 2008 Sun Microsystems
5
 
 *
6
 
 *  This program is free software; you can redistribute it and/or modify
7
 
 *  it under the terms of the GNU General Public License as published by
8
 
 *  the Free Software Foundation; version 2 of the License.
9
 
 *
10
 
 *  This program is distributed in the hope that it will be useful,
11
 
 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
12
 
 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
 
 *  GNU General Public License for more details.
14
 
 *
15
 
 *  You should have received a copy of the GNU General Public License
16
 
 *  along with this program; if not, write to the Free Software
17
 
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18
 
 */
19
 
 
20
 
#include <drizzled/server_includes.h>
21
 
#include CSTDINT_H
22
 
#include <drizzled/functions/divide.h>
23
 
 
24
 
double Item_func_div::real_op()
25
 
{
26
 
  assert(fixed == 1);
27
 
  double value= args[0]->val_real();
28
 
  double val2= args[1]->val_real();
29
 
  if ((null_value= args[0]->null_value || args[1]->null_value))
30
 
    return 0.0;
31
 
  if (val2 == 0.0)
32
 
  {
33
 
    signal_divide_by_null();
34
 
    return 0.0;
35
 
  }
36
 
  return fix_result(value/val2);
37
 
}
38
 
 
39
 
 
40
 
my_decimal *Item_func_div::decimal_op(my_decimal *decimal_value)
41
 
{
42
 
  my_decimal value1, *val1;
43
 
  my_decimal value2, *val2;
44
 
  int err;
45
 
 
46
 
  val1= args[0]->val_decimal(&value1);
47
 
  if ((null_value= args[0]->null_value))
48
 
    return 0;
49
 
  val2= args[1]->val_decimal(&value2);
50
 
  if ((null_value= args[1]->null_value))
51
 
    return 0;
52
 
  if ((err= my_decimal_div(E_DEC_FATAL_ERROR & ~E_DEC_DIV_ZERO, decimal_value,
53
 
                           val1, val2, prec_increment)) > 3)
54
 
  {
55
 
    if (err == E_DEC_DIV_ZERO)
56
 
      signal_divide_by_null();
57
 
    null_value= 1;
58
 
    return 0;
59
 
  }
60
 
  return decimal_value;
61
 
}
62
 
 
63
 
 
64
 
void Item_func_div::result_precision()
65
 
{
66
 
  uint32_t precision=cmin(args[0]->decimal_precision() + prec_increment,
67
 
                     (unsigned int)DECIMAL_MAX_PRECISION);
68
 
  /* Integer operations keep unsigned_flag if one of arguments is unsigned */
69
 
  if (result_type() == INT_RESULT)
70
 
    unsigned_flag= args[0]->unsigned_flag | args[1]->unsigned_flag;
71
 
  else
72
 
    unsigned_flag= args[0]->unsigned_flag & args[1]->unsigned_flag;
73
 
  decimals= cmin(args[0]->decimals + prec_increment, (unsigned int)DECIMAL_MAX_SCALE);
74
 
  max_length= my_decimal_precision_to_length(precision, decimals,
75
 
                                             unsigned_flag);
76
 
}
77
 
 
78
 
 
79
 
void Item_func_div::fix_length_and_dec()
80
 
{
81
 
  prec_increment= current_session->variables.div_precincrement;
82
 
  Item_num_op::fix_length_and_dec();
83
 
  switch(hybrid_type) {
84
 
  case REAL_RESULT:
85
 
  {
86
 
    decimals=cmax(args[0]->decimals,args[1]->decimals)+prec_increment;
87
 
    set_if_smaller(decimals, NOT_FIXED_DEC);
88
 
    max_length=args[0]->max_length - args[0]->decimals + decimals;
89
 
    uint32_t tmp=float_length(decimals);
90
 
    set_if_smaller(max_length,tmp);
91
 
    break;
92
 
  }
93
 
  case INT_RESULT:
94
 
    hybrid_type= DECIMAL_RESULT;
95
 
    result_precision();
96
 
    break;
97
 
  case DECIMAL_RESULT:
98
 
    result_precision();
99
 
    break;
100
 
  default:
101
 
    assert(0);
102
 
  }
103
 
  maybe_null= 1; // devision by zero
104
 
  return;
105
 
}
106