~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/function/math/multiply.cc

  • Committer: Stewart Smith
  • Date: 2010-08-12 16:48:46 UTC
  • mto: This revision was merged to the branch mainline in revision 1707.
  • Revision ID: stewart@flamingspork.com-20100812164846-s9bhy47g60bvqs41
bug lp:611379 Equivalent queries with Impossible where return different results

The following two equivalent queries return different results in maria 5.2 and 5.3 (and identical results in mysql 5.5.5) :

SELECT SUM( DISTINCT table1 .`pk` ) FROM B table1 STRAIGHT_JOIN ( BB table2 JOIN CC ON table2 .`col_varchar_key` ) ON table2 .`pk` ;

SELECT * FROM ( SELECT SUM( DISTINCT table1 .`pk` ) FROM B table1 STRAIGHT_JOIN ( BB table2 JOIN CC ON table2 .`col_varchar_key` ) ON table2 .`pk` );

MariaDB returns 0 on the second query and NULL on the first, whereas MySQL returns NULL on both. In MariaDB, both EXPLAIN plans agree that "Impossible WHERE noticed after reading const tables"



We have some slightly different output in drizzle:

main.bug_lp611379 [ fail ]
drizzletest: At line 9: query 'explain select * from (select sum(distinct t1.a) from t1,t2 where t1.a=t2.a)
as t' failed: 1048: Column 'sum(distinct t1.a)' cannot be null

but the fix gets us the correct query results, although with slightly different execution plans.



This fix is directly ported from MariaDB.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
/* -*- mode: c++; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
 
 *  Copyright (C) 2008 Sun Microsystems, Inc.
 
4
 *  Copyright (C) 2008 Sun Microsystems
5
5
 *
6
6
 *  This program is free software; you can redistribute it and/or modify
7
7
 *  it under the terms of the GNU General Public License as published by
17
17
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18
18
 */
19
19
 
20
 
#include <config.h>
 
20
#include "config.h"
21
21
 
22
22
#include <drizzled/function/math/multiply.h>
23
23
 
50
50
 
51
51
/** See Item_func_plus::decimal_op for comments. */
52
52
 
53
 
type::Decimal *Item_func_mul::decimal_op(type::Decimal *decimal_value)
 
53
my_decimal *Item_func_mul::decimal_op(my_decimal *decimal_value)
54
54
{
55
 
  type::Decimal value1, *val1;
56
 
  type::Decimal value2, *val2;
 
55
  my_decimal value1, *val1;
 
56
  my_decimal value2, *val2;
57
57
  val1= args[0]->val_decimal(&value1);
58
58
  if ((null_value= args[0]->null_value))
59
59
    return 0;
60
60
  val2= args[1]->val_decimal(&value2);
61
61
  if (!(null_value= (args[1]->null_value ||
62
 
                     (class_decimal_mul(E_DEC_FATAL_ERROR, decimal_value, val1,
 
62
                     (my_decimal_mul(E_DEC_FATAL_ERROR, decimal_value, val1,
63
63
                                    val2) > 3))))
64
64
    return decimal_value;
65
65
  return 0;
77
77
  decimals= min(args[0]->decimals + args[1]->decimals, DECIMAL_MAX_SCALE);
78
78
  int precision= min(args[0]->decimal_precision() + args[1]->decimal_precision(),
79
79
                     (unsigned int)DECIMAL_MAX_PRECISION);
80
 
  max_length= class_decimal_precision_to_length(precision, decimals,unsigned_flag);
 
80
  max_length= my_decimal_precision_to_length(precision, decimals,unsigned_flag);
81
81
}
82
82
 
83
83
} /* namespace drizzled */