← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/check_stack_overrun.cc

  • Committer: Prafulla Tekawade
  • Date: 2010-07-13 16:07:35 UTC
  • mto: (1662.1.4 rollup)
  • mto: This revision was merged to the branch mainline in revision 1664.
  • Revision ID: prafulla_t@users.sourceforge.net-20100713160735-2fsdtrm3azayuyu1
This bug is simillar to mysql bug 36133
http://bugs.mysql.com/bug.php?id=36133

Taking changes from that fix.

  - The problem was that the range optimizer evaluated constant expressions, 
    and among them it would try to evaluate IN-subquery predicates slated for
    handling with materialization strategy. However, these predicates require
    that parent_join->setup_subquery_materialization() is invoked before one
    attempts to evaluate them.
  
  - Fixed by making the range optimizer not to evaluate expressions that have
    item->is_expensive() == TRUE (these are materialization subqueries and 
    stored function calls). This should also resolve the problem that EXPLAIN 
    may be too long. 
    This change cuts off some opportunities for range optimizer, but this is 
    the price we're willing to pay for separation of query optimization and
    execution. 

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/check_stack_overrun.cc
1
1
/* -*- mode: c++; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
2
 *  vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
3
 *
4
 
 *  Copyright (C) 2008 Sun Microsystems, Inc.
 
4
 *  Copyright (C) 2008 Sun Microsystems
5
5
 *
6
6
 *  This program is free software; you can redistribute it and/or modify
7
7
 *  it under the terms of the GNU General Public License as published by
17
17
 *  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18
18
 */
19
19
 
20
 
#include <config.h>
21
 
#include <drizzled/internal/my_sys.h>
 
20
#include "config.h"
 
21
#include "drizzled/internal/my_sys.h"
22
22
#include <drizzled/definitions.h>
23
23
#include <drizzled/session.h>
24
24
#include <drizzled/error.h>
31
31
        Check stack size; Send error if there isn't enough stack to continue
32
32
****************************************************************************/
33
33
#if defined(STACK_DIRECTION) && (STACK_DIRECTION < 0)
34
 
static const bool stack_direction_negative = true;
 
34
#define used_stack(A,B) (long) (A - B)
35
35
#else
36
 
static const bool stack_direction_negative = false;
 
36
#define used_stack(A,B) (long) (B - A)
37
37
#endif
38
38
 
39
 
template <typename A_T, typename B_T>
40
 
inline static long used_stack(A_T A, B_T B)
41
 
{
42
 
  if (stack_direction_negative)
43
 
    return (long) (A - B);
44
 
  else
45
 
    return (long) (B - A);
46
 
}
47
 
 
48
39
extern size_t my_thread_stack_size;
49
40
 
50
41
bool check_stack_overrun(Session *session, long margin, void *)