~drizzle-trunk/drizzle/development

Viewing all changes in revision 1165.2.2.

  • Committer: Stewart Smith
  • Author(s): gshchepa at mysql
  • Date: 2009-10-12 04:37:14 UTC
  • mto: This revision was merged to the branch mainline in revision 1188.
  • Revision ID: stewart@flamingspork.com-20091012043714-97un6bbwtpdzbxg1
MySQL Bug #44139: Table scan when NULL appears in IN clause

fixed in MySQL by Gleb, merged into Drizzle by Stewart
      
      SELECT ... WHERE ... IN (NULL, ...) does full table scan,
      even if the same query without the NULL uses efficient range scan.
      
      The bugfix for the bug 18360 introduced an optimization:
      if
        1) all right-hand arguments of the IN function are constants
        2) result types of all right argument items are compatible
           enough to use the same single comparison function to
           compare all of them to the left argument,
      
      then
      
        we can convert the right-hand list of constant items to an array
        of equally-typed constant values for the further
        QUICK index access etc. (see Item_func_in::fix_length_and_dec()).
      
      The Item_null constant item objects have STRING_RESULT
      result types, so, as far as Item_func_in::fix_length_and_dec() 
      is aware of NULLs in the right list, this improvement efficiently 
      optimizes IN function calls with a mixed right list of NULLs and 
      string constants. However, the optimization doesn't affect mixed
      lists of NULLs and integers, floats etc., because there is no
      unique common comparator.
      
      
      New optimization has been added to ignore the result type
      of NULL constants in the static analysis of mixed right-hand lists.
      This is safe, because at the execution phase we care about
      presence of NULLs anyway.
      
      1. The collect_cmp_types() function has been modified to optionally
         ignore NULL constants in the item list.
      2. NULL-skipping code of the Item_func_in::fix_length_and_dec()
         function has been modified to work not only with in_string
         vectors but with in_vectors of other types.
     @ mysql-test/r/func_in.result
        Added test case for the bug #44139.
     @ mysql-test/t/func_in.test
        Added test case for the bug #44139.
     @ sql/item_cmpfunc.cc
        Bug #44139: Table scan when NULL appears in IN clause
        
        1. The collect_cmp_types() function has been modified to optionally
           ignore NULL constants in the item list.
        2. NULL-skipping code of the Item_func_in::fix_length_and_dec()
           function has been modified to work not only with in_string
           vectors but with in_vectors of other types.

    modified:
      mysql-test/r/func_in.result
      mysql-test/t/func_in.test
      sql/item_cmpfunc.cc

expand all expand all

Show diffs side-by-side

added added

removed removed

Lines of Context: