← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/filesort.cc

  • Committer: lbieber
  • Date: 2010-10-06 16:34:16 UTC
  • mfrom: (1816.1.3 build)
  • Revision ID: lbieber@orisndriz08-20101006163416-ea0sl59qgpglk21y
Merge Monty - Change the requirement from either libinnodb to libhaildb. Also, tied it to version 2.2
Merge Andrew - fix bug 650935: remove --compress from all clients
Merge Andrew - fix bug 653471: Add -A to drizzle client
Merge Travis - 621861 = To change C structs to C++ classes in Drizzle

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/filesort.cc
28
28
 
29
29
#include <queue>
30
30
#include <algorithm>
31
 
#include <iostream>
32
31
 
33
 
#include "drizzled/drizzled.h"
34
32
#include "drizzled/sql_sort.h"
35
 
#include "drizzled/filesort.h"
36
33
#include "drizzled/error.h"
37
34
#include "drizzled/probes.h"
38
35
#include "drizzled/session.h"
44
41
#include "drizzled/internal/my_sys.h"
45
42
#include "plugin/myisam/myisam.h"
46
43
#include "drizzled/plugin/transactional_storage_engine.h"
47
 
#include "drizzled/atomics.h"
48
 
#include "drizzled/global_buffer.h"
49
 
 
50
44
 
51
45
using namespace std;
52
46
 
53
47
namespace drizzled
54
48
{
55
49
 
56
 
/* Defines used by filesort and uniques */
57
 
#define MERGEBUFF               7
58
 
#define MERGEBUFF2              15
59
 
 
60
 
class BufferCompareContext
61
 
{
62
 
public:
63
 
  qsort_cmp2 key_compare;
64
 
  void *key_compare_arg;
65
 
 
66
 
  BufferCompareContext() :
67
 
    key_compare(0),
68
 
    key_compare_arg(0)
69
 
  { }
70
 
 
71
 
};
72
 
 
73
 
class SortParam {
74
 
public:
75
 
  uint32_t rec_length;          /* Length of sorted records */
76
 
  uint32_t sort_length;                 /* Length of sorted columns */
77
 
  uint32_t ref_length;                  /* Length of record ref. */
78
 
  uint32_t addon_length;        /* Length of added packed fields */
79
 
  uint32_t res_length;          /* Length of records in final sorted file/buffer */
80
 
  uint32_t keys;                                /* Max keys / buffer */
81
 
  ha_rows max_rows,examined_rows;
82
 
  Table *sort_form;                     /* For quicker make_sortkey */
83
 
  SortField *local_sortorder;
84
 
  SortField *end;
85
 
  sort_addon_field *addon_field; /* Descriptors for companion fields */
86
 
  unsigned char *unique_buff;
87
 
  bool not_killable;
88
 
  char *tmp_buffer;
89
 
  /* The fields below are used only by Unique class */
90
 
  qsort2_cmp compare;
91
 
  BufferCompareContext cmp_context;
92
 
 
93
 
  SortParam() :
94
 
    rec_length(0),
95
 
    sort_length(0),
96
 
    ref_length(0),
97
 
    addon_length(0),
98
 
    res_length(0),
99
 
    keys(0),
100
 
    max_rows(0),
101
 
    examined_rows(0),
102
 
    sort_form(0),
103
 
    local_sortorder(0),
104
 
    end(0),
105
 
    addon_field(0),
106
 
    unique_buff(0),
107
 
    not_killable(0),
108
 
    tmp_buffer(0),
109
 
    compare(0)
110
 
  {
111
 
  }
112
 
 
113
 
  ~SortParam()
114
 
  {
115
 
    if (tmp_buffer)
116
 
      free(tmp_buffer);
117
 
  }
118
 
 
119
 
  int write_keys(unsigned char * *sort_keys,
120
 
                 uint32_t count,
121
 
                 internal::IO_CACHE *buffer_file,
122
 
                 internal::IO_CACHE *tempfile);
123
 
 
124
 
  void make_sortkey(unsigned char *to,
125
 
                    unsigned char *ref_pos);
126
 
  void register_used_fields();
127
 
  bool save_index(unsigned char **sort_keys,
128
 
                  uint32_t count,
129
 
                  filesort_info *table_sort);
130
 
 
131
 
};
132
 
 
133
50
/* functions defined in this file */
134
51
 
135
52
static char **make_char_array(char **old_pos, register uint32_t fields,
139
56
                                             uint32_t count,
140
57
                                             unsigned char *buf);
141
58
 
 
59
static ha_rows find_all_keys(Session *session,
 
60
                             SORTPARAM *param,
 
61
                             optimizer::SqlSelect *select,
 
62
                             unsigned char * *sort_keys, 
 
63
                             internal::IO_CACHE *buffer_file,
 
64
                             internal::IO_CACHE *tempfile,
 
65
                             internal::IO_CACHE *indexfile);
 
66
 
 
67
static int write_keys(SORTPARAM *param,
 
68
                      unsigned char * *sort_keys,
 
69
                      uint32_t count,
 
70
                      internal::IO_CACHE *buffer_file,
 
71
                      internal::IO_CACHE *tempfile);
 
72
 
 
73
static void make_sortkey(SORTPARAM *param,
 
74
                         unsigned char *to,
 
75
                         unsigned char *ref_pos);
 
76
static void register_used_fields(SORTPARAM *param);
 
77
static int merge_index(SORTPARAM *param,
 
78
                       unsigned char *sort_buffer,
 
79
                       buffpek_st *buffpek,
 
80
                       uint32_t maxbuffer,
 
81
                       internal::IO_CACHE *tempfile,
 
82
                       internal::IO_CACHE *outfile);
 
83
static bool save_index(SORTPARAM *param,
 
84
                       unsigned char **sort_keys,
 
85
                       uint32_t count,
 
86
                       filesort_info_st *table_sort);
142
87
static uint32_t suffix_length(uint32_t string_length);
143
 
static void unpack_addon_fields(sort_addon_field *addon_field,
 
88
static uint32_t sortlength(Session *session,
 
89
                           SortField *sortorder,
 
90
                           uint32_t s_length,
 
91
                           bool *multi_byte_charset);
 
92
static sort_addon_field_st *get_addon_fields(Session *session,
 
93
                                             Field **ptabfield,
 
94
                                             uint32_t sortlength,
 
95
                                             uint32_t *plength);
 
96
static void unpack_addon_fields(sort_addon_field_st *addon_field,
144
97
                                unsigned char *buff);
145
 
 
146
 
FileSort::FileSort(Session &arg) :
147
 
  _session(arg)
148
 
{ 
149
 
}
150
 
 
151
98
/**
152
99
  Sort a table.
153
100
  Creates a set of pointers that can be used to read the rows
160
107
  The result set is stored in table->io_cache or
161
108
  table->record_pointers.
162
109
 
 
110
  @param session           Current thread
163
111
  @param table          Table to sort
164
112
  @param sortorder      How to sort the table
165
113
  @param s_length       Number of elements in sortorder
183
131
    examined_rows       will be set to number of examined rows
184
132
*/
185
133
 
186
 
ha_rows FileSort::run(Table *table, SortField *sortorder, uint32_t s_length,
187
 
                      optimizer::SqlSelect *select, ha_rows max_rows,
188
 
                      bool sort_positions, ha_rows &examined_rows)
 
134
ha_rows filesort(Session *session, Table *table, SortField *sortorder, uint32_t s_length,
 
135
                 optimizer::SqlSelect *select, ha_rows max_rows,
 
136
                 bool sort_positions, ha_rows *examined_rows)
189
137
{
190
 
  int error= 1;
191
 
  uint32_t memavl= 0, min_sort_memory;
 
138
  int error;
 
139
  uint32_t memavl, min_sort_memory;
192
140
  uint32_t maxbuffer;
193
 
  size_t allocated_sort_memory= 0;
194
 
  buffpek *buffpek_inst= 0;
 
141
  buffpek_st *buffpek;
195
142
  ha_rows records= HA_POS_ERROR;
196
143
  unsigned char **sort_keys= 0;
197
 
  internal::IO_CACHE tempfile;
198
 
  internal::IO_CACHE buffpek_pointers;
199
 
  internal::IO_CACHE *selected_records_file;
200
 
  internal::IO_CACHE *outfile;
201
 
  SortParam param;
 
144
  internal::IO_CACHE tempfile, buffpek_pointers, *selected_records_file, *outfile;
 
145
  SORTPARAM param;
202
146
  bool multi_byte_charset;
203
147
 
204
 
  /*
205
 
    Don't use table->sort in filesort as it is also used by
206
 
    QuickIndexMergeSelect. Work with a copy and put it back at the end
207
 
    when index_merge select has finished with it.
208
 
  */
209
 
  filesort_info table_sort(table->sort);
210
 
  table->sort.io_cache= NULL;
211
 
 
 
148
  filesort_info_st table_sort;
212
149
  TableList *tab= table->pos_in_table_list;
213
150
  Item_subselect *subselect= tab ? tab->containing_subselect() : 0;
214
151
 
218
155
   Release InnoDB's adaptive hash index latch (if holding) before
219
156
   running a sort.
220
157
  */
221
 
  plugin::TransactionalStorageEngine::releaseTemporaryLatches(&getSession());
 
158
  plugin::TransactionalStorageEngine::releaseTemporaryLatches(session);
222
159
 
 
160
  /*
 
161
    Don't use table->sort in filesort as it is also used by
 
162
    QuickIndexMergeSelect. Work with a copy and put it back at the end
 
163
    when index_merge select has finished with it.
 
164
  */
 
165
  memcpy(&table_sort, &table->sort, sizeof(filesort_info_st));
 
166
  table->sort.io_cache= NULL;
223
167
 
224
168
  outfile= table_sort.io_cache;
225
 
  assert(tempfile.buffer == 0);
226
 
  assert(buffpek_pointers.buffer == 0);
227
 
 
228
 
  param.sort_length= sortlength(sortorder, s_length, &multi_byte_charset);
 
169
  my_b_clear(&tempfile);
 
170
  my_b_clear(&buffpek_pointers);
 
171
  buffpek=0;
 
172
  error= 1;
 
173
  memset(&param, 0, sizeof(param));
 
174
  param.sort_length= sortlength(session, sortorder, s_length, &multi_byte_charset);
229
175
  param.ref_length= table->cursor->ref_length;
230
 
 
 
176
  param.addon_field= 0;
 
177
  param.addon_length= 0;
231
178
  if (!(table->cursor->getEngine()->check_flag(HTON_BIT_FAST_KEY_READ)) && !sort_positions)
232
179
  {
233
180
    /*
234
181
      Get the descriptors of all fields whose values are appended
235
182
      to sorted fields and get its total length in param.spack_length.
236
183
    */
237
 
    param.addon_field= get_addon_fields(table->getFields(),
 
184
    param.addon_field= get_addon_fields(session, table->getFields(),
238
185
                                        param.sort_length,
239
186
                                        &param.addon_length);
240
187
  }
247
194
  {
248
195
    param.res_length= param.addon_length;
249
196
    if (!(table_sort.addon_buf= (unsigned char *) malloc(param.addon_length)))
250
 
    {
251
197
      goto err;
252
 
    }
253
198
  }
254
199
  else
255
200
  {
265
210
 
266
211
  if (select && select->quick)
267
212
  {
268
 
    getSession().status_var.filesort_range_count++;
 
213
    session->status_var.filesort_range_count++;
269
214
  }
270
215
  else
271
216
  {
272
 
    getSession().status_var.filesort_scan_count++;
 
217
    session->status_var.filesort_scan_count++;
273
218
  }
274
219
#ifdef CAN_TRUST_RANGE
275
220
  if (select && select->quick && select->quick->records > 0L)
291
236
    selected_records_file= 0;
292
237
  }
293
238
 
294
 
  if (multi_byte_charset && !(param.tmp_buffer= (char*) malloc(param.sort_length)))
295
 
  {
 
239
  if (multi_byte_charset &&
 
240
      !(param.tmp_buffer= (char*) malloc(param.sort_length)))
296
241
    goto err;
297
 
  }
298
242
 
299
 
  memavl= getSession().variables.sortbuff_size;
 
243
  memavl= session->variables.sortbuff_size;
300
244
  min_sort_memory= max((uint32_t)MIN_SORT_MEMORY, param.sort_length*MERGEBUFF2);
301
245
  while (memavl >= min_sort_memory)
302
246
  {
303
247
    uint32_t old_memavl;
304
248
    uint32_t keys= memavl/(param.rec_length+sizeof(char*));
305
249
    param.keys= (uint32_t) min(records+1, (ha_rows)keys);
306
 
 
307
 
    allocated_sort_memory= param.keys * param.rec_length;
308
 
    if (not global_sort_buffer.add(allocated_sort_memory))
309
 
    {
310
 
      my_error(ER_OUT_OF_GLOBAL_SORTMEMORY, MYF(ME_ERROR+ME_WAITTANG));
311
 
      goto err;
312
 
    }
313
 
 
314
250
    if ((table_sort.sort_keys=
315
251
         (unsigned char **) make_char_array((char **) table_sort.sort_keys,
316
252
                                            param.keys, param.rec_length)))
317
253
      break;
318
 
 
319
 
    global_sort_buffer.sub(allocated_sort_memory);
320
254
    old_memavl= memavl;
321
255
    if ((memavl= memavl/4*3) < min_sort_memory && old_memavl > min_sort_memory)
322
256
      memavl= min_sort_memory;
327
261
    my_error(ER_OUT_OF_SORTMEMORY,MYF(ME_ERROR+ME_WAITTANG));
328
262
    goto err;
329
263
  }
330
 
 
331
 
  if (buffpek_pointers.open_cached_file(drizzle_tmpdir.c_str(),TEMP_PREFIX, DISK_BUFFER_SIZE, MYF(MY_WME)))
332
 
  {
 
264
  if (open_cached_file(&buffpek_pointers,drizzle_tmpdir.c_str(),TEMP_PREFIX,
 
265
                       DISK_BUFFER_SIZE, MYF(MY_WME)))
333
266
    goto err;
334
 
  }
335
267
 
336
268
  param.keys--;                         /* TODO: check why we do this */
337
269
  param.sort_form= table;
338
270
  param.end=(param.local_sortorder=sortorder)+s_length;
339
 
  if ((records= find_all_keys(&param,select,sort_keys, &buffpek_pointers,
340
 
                              &tempfile, selected_records_file)) == HA_POS_ERROR)
341
 
  {
 
271
  if ((records=find_all_keys(session, &param,select,sort_keys, &buffpek_pointers,
 
272
                             &tempfile, selected_records_file)) ==
 
273
      HA_POS_ERROR)
342
274
    goto err;
343
 
  }
344
 
  maxbuffer= (uint32_t) (my_b_tell(&buffpek_pointers)/sizeof(*buffpek_inst));
 
275
  maxbuffer= (uint32_t) (my_b_tell(&buffpek_pointers)/sizeof(*buffpek));
345
276
 
346
277
  if (maxbuffer == 0)                   // The whole set is in memory
347
278
  {
348
 
    if (param.save_index(sort_keys,(uint32_t) records, &table_sort))
349
 
    {
 
279
    if (save_index(&param,sort_keys,(uint32_t) records, &table_sort))
350
280
      goto err;
351
 
    }
352
281
  }
353
282
  else
354
283
  {
356
285
    {
357
286
      if (table_sort.buffpek)
358
287
        free(table_sort.buffpek);
359
 
      table_sort.buffpek = 0;
 
288
      table_sort.buffpek= 0;
360
289
    }
361
290
    if (!(table_sort.buffpek=
362
 
          (unsigned char *) read_buffpek_from_file(&buffpek_pointers, maxbuffer, table_sort.buffpek)))
363
 
    {
 
291
          (unsigned char *) read_buffpek_from_file(&buffpek_pointers, maxbuffer,
 
292
                                 table_sort.buffpek)))
364
293
      goto err;
365
 
    }
366
 
    buffpek_inst= (buffpek *) table_sort.buffpek;
 
294
    buffpek= (buffpek_st *) table_sort.buffpek;
367
295
    table_sort.buffpek_len= maxbuffer;
368
 
    buffpek_pointers.close_cached_file();
 
296
    close_cached_file(&buffpek_pointers);
369
297
        /* Open cached file if it isn't open */
370
 
    if (! my_b_inited(outfile) && outfile->open_cached_file(drizzle_tmpdir.c_str(),TEMP_PREFIX,READ_RECORD_BUFFER, MYF(MY_WME)))
371
 
    {
372
 
      goto err;
373
 
    }
374
 
 
375
 
    if (outfile->reinit_io_cache(internal::WRITE_CACHE,0L,0,0))
376
 
    {
377
 
      goto err;
378
 
    }
 
298
    if (! my_b_inited(outfile) &&
 
299
        open_cached_file(outfile,drizzle_tmpdir.c_str(),TEMP_PREFIX,READ_RECORD_BUFFER,
 
300
                          MYF(MY_WME)))
 
301
      goto err;
 
302
    if (reinit_io_cache(outfile,internal::WRITE_CACHE,0L,0,0))
 
303
      goto err;
379
304
 
380
305
    /*
381
306
      Use also the space previously used by string pointers in sort_buffer
382
307
      for temporary key storage.
383
308
    */
384
 
    param.keys=((param.keys*(param.rec_length+sizeof(char*))) / param.rec_length-1);
385
 
 
 
309
    param.keys=((param.keys*(param.rec_length+sizeof(char*))) /
 
310
                param.rec_length-1);
386
311
    maxbuffer--;                                // Offset from 0
387
 
    if (merge_many_buff(&param,(unsigned char*) sort_keys,buffpek_inst,&maxbuffer, &tempfile))
388
 
    {
389
 
      goto err;
390
 
    }
391
 
 
392
 
    if (flush_io_cache(&tempfile) || tempfile.reinit_io_cache(internal::READ_CACHE,0L,0,0))
393
 
    {
394
 
      goto err;
395
 
    }
396
 
 
397
 
    if (merge_index(&param,(unsigned char*) sort_keys,buffpek_inst,maxbuffer,&tempfile, outfile))
398
 
    {
399
 
      goto err;
400
 
    }
 
312
    if (merge_many_buff(&param,(unsigned char*) sort_keys,buffpek,&maxbuffer,
 
313
                        &tempfile))
 
314
      goto err;
 
315
    if (flush_io_cache(&tempfile) ||
 
316
        reinit_io_cache(&tempfile,internal::READ_CACHE,0L,0,0))
 
317
      goto err;
 
318
    if (merge_index(&param,(unsigned char*) sort_keys,buffpek,maxbuffer,&tempfile,
 
319
                    outfile))
 
320
      goto err;
401
321
  }
402
 
 
403
322
  if (records > param.max_rows)
404
 
  {
405
 
    records= param.max_rows;
406
 
  }
 
323
    records=param.max_rows;
407
324
  error =0;
408
325
 
409
326
 err:
410
 
  if (not subselect || not subselect->is_uncacheable())
 
327
  if (param.tmp_buffer)
 
328
    if (param.tmp_buffer)
 
329
      free(param.tmp_buffer);
 
330
  if (!subselect || !subselect->is_uncacheable())
411
331
  {
412
332
    free(sort_keys);
413
333
    table_sort.sort_keys= 0;
414
 
    free(buffpek_inst);
 
334
    free(buffpek);
415
335
    table_sort.buffpek= 0;
416
336
    table_sort.buffpek_len= 0;
417
337
  }
418
 
 
419
 
  tempfile.close_cached_file();
420
 
  buffpek_pointers.close_cached_file();
421
 
 
 
338
  close_cached_file(&tempfile);
 
339
  close_cached_file(&buffpek_pointers);
422
340
  if (my_b_inited(outfile))
423
341
  {
424
342
    if (flush_io_cache(outfile))
425
 
    {
426
343
      error=1;
427
 
    }
428
344
    {
429
 
      internal::my_off_t save_pos= outfile->pos_in_file;
 
345
      internal::my_off_t save_pos=outfile->pos_in_file;
430
346
      /* For following reads */
431
 
      if (outfile->reinit_io_cache(internal::READ_CACHE,0L,0,0))
432
 
      {
 
347
      if (reinit_io_cache(outfile,internal::READ_CACHE,0L,0,0))
433
348
        error=1;
434
 
      }
435
349
      outfile->end_of_file=save_pos;
436
350
    }
437
351
  }
438
 
 
439
352
  if (error)
440
353
  {
441
354
    my_message(ER_FILSORT_ABORT, ER(ER_FILSORT_ABORT),
443
356
  }
444
357
  else
445
358
  {
446
 
    getSession().status_var.filesort_rows+= (uint32_t) records;
 
359
    session->status_var.filesort_rows+= (uint32_t) records;
447
360
  }
448
 
  examined_rows= param.examined_rows;
449
 
  global_sort_buffer.sub(allocated_sort_memory);
450
 
  table->sort= table_sort;
 
361
  *examined_rows= param.examined_rows;
 
362
  memcpy(&table->sort, &table_sort, sizeof(filesort_info_st));
451
363
  DRIZZLE_FILESORT_DONE(error, records);
452
364
  return (error ? HA_POS_ERROR : records);
453
365
} /* filesort */
454
366
 
 
367
 
 
368
void Table::filesort_free_buffers(bool full)
 
369
{
 
370
  if (sort.record_pointers)
 
371
  {
 
372
    free((unsigned char*) sort.record_pointers);
 
373
    sort.record_pointers=0;
 
374
  }
 
375
  if (full)
 
376
  {
 
377
    if (sort.sort_keys )
 
378
    {
 
379
      if ((unsigned char*) sort.sort_keys)
 
380
        free((unsigned char*) sort.sort_keys);
 
381
      sort.sort_keys= 0;
 
382
    }
 
383
    if (sort.buffpek)
 
384
    {
 
385
      if ((unsigned char*) sort.buffpek)
 
386
        free((unsigned char*) sort.buffpek);
 
387
      sort.buffpek= 0;
 
388
      sort.buffpek_len= 0;
 
389
    }
 
390
  }
 
391
  if (sort.addon_buf)
 
392
  {
 
393
    free((char *) sort.addon_buf);
 
394
    free((char *) sort.addon_field);
 
395
    sort.addon_buf=0;
 
396
    sort.addon_field=0;
 
397
  }
 
398
}
 
399
 
455
400
/** Make a array of string pointers. */
456
401
 
457
402
static char **make_char_array(char **old_pos, register uint32_t fields,
476
421
static unsigned char *read_buffpek_from_file(internal::IO_CACHE *buffpek_pointers, uint32_t count,
477
422
                                     unsigned char *buf)
478
423
{
479
 
  uint32_t length= sizeof(buffpek)*count;
 
424
  uint32_t length= sizeof(buffpek_st)*count;
480
425
  unsigned char *tmp= buf;
481
 
  if (count > UINT_MAX/sizeof(buffpek))
482
 
    return 0; /* sizeof(buffpek)*count will overflow */
 
426
  if (count > UINT_MAX/sizeof(buffpek_st))
 
427
    return 0; /* sizeof(buffpek_st)*count will overflow */
483
428
  if (!tmp)
484
429
    tmp= (unsigned char *)malloc(length);
485
430
  if (tmp)
486
431
  {
487
 
    if (buffpek_pointers->reinit_io_cache(internal::READ_CACHE,0L,0,0) ||
 
432
    if (reinit_io_cache(buffpek_pointers,internal::READ_CACHE,0L,0,0) ||
488
433
        my_b_read(buffpek_pointers, (unsigned char*) tmp, length))
489
434
    {
490
435
      free((char*) tmp);
502
447
  @param param             Sorting parameter
503
448
  @param select            Use this to get source data
504
449
  @param sort_keys         Array of pointers to sort key + addon buffers.
505
 
  @param buffpek_pointers  File to write buffpeks describing sorted segments
 
450
  @param buffpek_pointers  File to write buffpek_sts describing sorted segments
506
451
                           in tempfile.
507
452
  @param tempfile          File to write sorted sequences of sortkeys to.
508
453
  @param indexfile         If !NULL, use it for source data (contains rowids)
516
461
       {
517
462
         sort sort_keys buffer;
518
463
         dump sorted sequence to 'tempfile';
519
 
         dump buffpek describing sequence location into 'buffpek_pointers';
 
464
         dump buffpek_st describing sequence location into 'buffpek_pointers';
520
465
       }
521
466
       put sort key into 'sort_keys';
522
467
     }
532
477
    HA_POS_ERROR on error.
533
478
*/
534
479
 
535
 
ha_rows FileSort::find_all_keys(SortParam *param, 
536
 
                                optimizer::SqlSelect *select,
537
 
                                unsigned char **sort_keys,
538
 
                                internal::IO_CACHE *buffpek_pointers,
539
 
                                internal::IO_CACHE *tempfile, internal::IO_CACHE *indexfile)
 
480
static ha_rows find_all_keys(Session *session,
 
481
                             SORTPARAM *param, 
 
482
                             optimizer::SqlSelect *select,
 
483
                             unsigned char **sort_keys,
 
484
                             internal::IO_CACHE *buffpek_pointers,
 
485
                             internal::IO_CACHE *tempfile, internal::IO_CACHE *indexfile)
540
486
{
541
487
  int error,flag,quick_select;
542
488
  uint32_t idx,indexpos,ref_length;
543
489
  unsigned char *ref_pos,*next_pos,ref_buff[MAX_REFLENGTH];
544
490
  internal::my_off_t record;
545
491
  Table *sort_form;
546
 
  volatile Session::killed_state_t *killed= getSession().getKilledPtr();
 
492
  volatile Session::killed_state *killed= &session->killed;
547
493
  Cursor *file;
548
 
  boost::dynamic_bitset<> *save_read_set= NULL;
549
 
  boost::dynamic_bitset<> *save_write_set= NULL;
 
494
  MyBitmap *save_read_set, *save_write_set;
550
495
 
551
496
  idx=indexpos=0;
552
497
  error=quick_select=0;
564
509
  if (! indexfile && ! quick_select)
565
510
  {
566
511
    next_pos=(unsigned char*) 0;                        /* Find records in sequence */
567
 
    if (file->startTableScan(1))
568
 
      return(HA_POS_ERROR);
569
 
    file->extra_opt(HA_EXTRA_CACHE, getSession().variables.read_buff_size);
 
512
    file->startTableScan(1);
 
513
    file->extra_opt(HA_EXTRA_CACHE,
 
514
                    session->variables.read_buff_size);
570
515
  }
571
516
 
572
517
  ReadRecord read_record_info;
575
520
    if (select->quick->reset())
576
521
      return(HA_POS_ERROR);
577
522
 
578
 
    if (read_record_info.init_read_record(&getSession(), select->quick->head, select, 1, 1))
579
 
      return(HA_POS_ERROR);
 
523
    read_record_info.init_read_record(session, select->quick->head, select, 1, 1);
580
524
  }
581
525
 
582
526
  /* Remember original bitmaps */
583
527
  save_read_set=  sort_form->read_set;
584
528
  save_write_set= sort_form->write_set;
585
529
  /* Set up temporary column read map for columns used by sort */
586
 
  sort_form->tmp_set.reset();
 
530
  sort_form->tmp_set.clearAll();
587
531
  /* Temporary set for register_used_fields and register_field_in_read_map */
588
532
  sort_form->read_set= &sort_form->tmp_set;
589
 
  param->register_used_fields();
 
533
  register_used_fields(param);
590
534
  if (select && select->cond)
591
535
    select->cond->walk(&Item::register_field_in_read_map, 1,
592
536
                       (unsigned char*) sort_form);
593
 
  sort_form->column_bitmaps_set(sort_form->tmp_set, sort_form->tmp_set);
 
537
  sort_form->column_bitmaps_set(&sort_form->tmp_set, &sort_form->tmp_set);
594
538
 
595
539
  for (;;)
596
540
  {
645
589
    {
646
590
      if (idx == param->keys)
647
591
      {
648
 
        if (param->write_keys(sort_keys, idx, buffpek_pointers, tempfile))
 
592
        if (write_keys(param,sort_keys,idx,buffpek_pointers,tempfile))
649
593
          return(HA_POS_ERROR);
650
594
        idx=0;
651
595
        indexpos++;
652
596
      }
653
 
      param->make_sortkey(sort_keys[idx++], ref_pos);
 
597
      make_sortkey(param,sort_keys[idx++],ref_pos);
654
598
    }
655
599
    else
656
 
    {
657
600
      file->unlock_row();
658
 
    }
659
 
 
660
601
    /* It does not make sense to read more keys in case of a fatal error */
661
 
    if (getSession().is_error())
 
602
    if (session->is_error())
662
603
      break;
663
604
  }
664
605
  if (quick_select)
676
617
      file->endTableScan();
677
618
  }
678
619
 
679
 
  if (getSession().is_error())
 
620
  if (session->is_error())
680
621
    return(HA_POS_ERROR);
681
622
 
682
623
  /* Signal we should use orignal column read and write maps */
683
 
  sort_form->column_bitmaps_set(*save_read_set, *save_write_set);
 
624
  sort_form->column_bitmaps_set(save_read_set, save_write_set);
684
625
 
685
626
  if (error != HA_ERR_END_OF_FILE)
686
627
  {
687
628
    sort_form->print_error(error,MYF(ME_ERROR | ME_WAITTANG));
688
629
    return(HA_POS_ERROR);
689
630
  }
690
 
 
691
 
  if (indexpos && idx && param->write_keys(sort_keys,idx,buffpek_pointers,tempfile))
692
 
  {
 
631
  if (indexpos && idx &&
 
632
      write_keys(param,sort_keys,idx,buffpek_pointers,tempfile))
693
633
    return(HA_POS_ERROR);
694
 
  }
695
 
 
696
634
  return(my_b_inited(tempfile) ?
697
635
              (ha_rows) (my_b_tell(tempfile)/param->rec_length) :
698
636
              idx);
703
641
  @details
704
642
  Sort the buffer and write:
705
643
  -# the sorted sequence to tempfile
706
 
  -# a buffpek describing the sorted sequence position to buffpek_pointers
 
644
  -# a buffpek_st describing the sorted sequence position to buffpek_pointers
707
645
 
708
646
    (was: Skriver en buffert med nycklar till filen)
709
647
 
710
648
  @param param             Sort parameters
711
649
  @param sort_keys         Array of pointers to keys to sort
712
650
  @param count             Number of elements in sort_keys array
713
 
  @param buffpek_pointers  One 'buffpek' struct will be written into this file.
714
 
                           The buffpek::{file_pos, count} will indicate where
 
651
  @param buffpek_pointers  One 'buffpek_st' struct will be written into this file.
 
652
                           The buffpek_st::{file_pos, count} will indicate where
715
653
                           the sorted data was stored.
716
654
  @param tempfile          The sorted sequence will be written into this file.
717
655
 
721
659
    1 Error
722
660
*/
723
661
 
724
 
int SortParam::write_keys(register unsigned char **sort_keys, uint32_t count,
725
 
                          internal::IO_CACHE *buffpek_pointers, internal::IO_CACHE *tempfile)
 
662
static int
 
663
write_keys(SORTPARAM *param, register unsigned char **sort_keys, uint32_t count,
 
664
           internal::IO_CACHE *buffpek_pointers, internal::IO_CACHE *tempfile)
726
665
{
727
 
  buffpek buffpek;
 
666
  size_t sort_length, rec_length;
 
667
  unsigned char **end;
 
668
  buffpek_st buffpek;
728
669
 
 
670
  sort_length= param->sort_length;
 
671
  rec_length= param->rec_length;
729
672
  internal::my_string_ptr_sort((unsigned char*) sort_keys, (uint32_t) count, sort_length);
730
673
  if (!my_b_inited(tempfile) &&
731
 
      tempfile->open_cached_file(drizzle_tmpdir.c_str(), TEMP_PREFIX, DISK_BUFFER_SIZE, MYF(MY_WME)))
732
 
  {
733
 
    return 1;
734
 
  }
 
674
      open_cached_file(tempfile, drizzle_tmpdir.c_str(), TEMP_PREFIX, DISK_BUFFER_SIZE,
 
675
                       MYF(MY_WME)))
 
676
    goto err;
735
677
  /* check we won't have more buffpeks than we can possibly keep in memory */
736
 
  if (my_b_tell(buffpek_pointers) + sizeof(buffpek) > (uint64_t)UINT_MAX)
737
 
  {
738
 
    return 1;
739
 
  }
740
 
 
 
678
  if (my_b_tell(buffpek_pointers) + sizeof(buffpek_st) > (uint64_t)UINT_MAX)
 
679
    goto err;
741
680
  buffpek.file_pos= my_b_tell(tempfile);
742
 
  if ((ha_rows) count > max_rows)
743
 
    count=(uint32_t) max_rows;
744
 
 
 
681
  if ((ha_rows) count > param->max_rows)
 
682
    count=(uint32_t) param->max_rows;
745
683
  buffpek.count=(ha_rows) count;
746
 
 
747
 
  for (unsigned char **ptr= sort_keys + count ; sort_keys != ptr ; sort_keys++)
748
 
  {
 
684
  for (end=sort_keys+count ; sort_keys != end ; sort_keys++)
749
685
    if (my_b_write(tempfile, (unsigned char*) *sort_keys, (uint32_t) rec_length))
750
 
    {
751
 
      return 1;
752
 
    }
753
 
  }
754
 
 
 
686
      goto err;
755
687
  if (my_b_write(buffpek_pointers, (unsigned char*) &buffpek, sizeof(buffpek)))
756
 
  {
757
 
    return 1;
758
 
  }
 
688
    goto err;
 
689
  return(0);
759
690
 
760
 
  return 0;
 
691
err:
 
692
  return(1);
761
693
} /* write_keys */
762
694
 
763
695
 
786
718
 
787
719
/** Make a sort-key from record. */
788
720
 
789
 
void SortParam::make_sortkey(register unsigned char *to, unsigned char *ref_pos)
 
721
static void make_sortkey(register SORTPARAM *param,
 
722
                         register unsigned char *to, unsigned char *ref_pos)
790
723
{
791
724
  Field *field;
792
725
  SortField *sort_field;
793
726
  size_t length;
794
727
 
795
 
  for (sort_field= local_sortorder ;
796
 
       sort_field != end ;
 
728
  for (sort_field=param->local_sortorder ;
 
729
       sort_field != param->end ;
797
730
       sort_field++)
798
731
  {
799
732
    bool maybe_null=0;
819
752
    {                                           // Item
820
753
      Item *item=sort_field->item;
821
754
      maybe_null= item->maybe_null;
822
 
 
823
755
      switch (sort_field->result_type) {
824
756
      case STRING_RESULT:
825
 
        {
826
 
          const CHARSET_INFO * const cs=item->collation.collation;
827
 
          char fill_char= ((cs->state & MY_CS_BINSORT) ? (char) 0 : ' ');
828
 
          int diff;
829
 
          uint32_t sort_field_length;
 
757
      {
 
758
        const CHARSET_INFO * const cs=item->collation.collation;
 
759
        char fill_char= ((cs->state & MY_CS_BINSORT) ? (char) 0 : ' ');
 
760
        int diff;
 
761
        uint32_t sort_field_length;
830
762
 
 
763
        if (maybe_null)
 
764
          *to++=1;
 
765
        /* All item->str() to use some extra byte for end null.. */
 
766
        String tmp((char*) to,sort_field->length+4,cs);
 
767
        String *res= item->str_result(&tmp);
 
768
        if (!res)
 
769
        {
831
770
          if (maybe_null)
832
 
            *to++=1;
833
 
          /* All item->str() to use some extra byte for end null.. */
834
 
          String tmp((char*) to,sort_field->length+4,cs);
835
 
          String *res= item->str_result(&tmp);
836
 
          if (!res)
837
 
          {
838
 
            if (maybe_null)
839
 
              memset(to-1, 0, sort_field->length+1);
840
 
            else
841
 
            {
842
 
              /*
843
 
                This should only happen during extreme conditions if we run out
844
 
                of memory or have an item marked not null when it can be null.
845
 
                This code is here mainly to avoid a hard crash in this case.
846
 
              */
847
 
              assert(0);
848
 
              memset(to, 0, sort_field->length);        // Avoid crash
849
 
            }
850
 
            break;
851
 
          }
852
 
          length= res->length();
853
 
          sort_field_length= sort_field->length - sort_field->suffix_length;
854
 
          diff=(int) (sort_field_length - length);
855
 
          if (diff < 0)
856
 
          {
857
 
            diff=0;
858
 
            length= sort_field_length;
859
 
          }
860
 
          if (sort_field->suffix_length)
861
 
          {
862
 
            /* Store length last in result_string */
863
 
            store_length(to + sort_field_length, length,
864
 
                         sort_field->suffix_length);
865
 
          }
866
 
          if (sort_field->need_strxnfrm)
867
 
          {
868
 
            char *from=(char*) res->ptr();
869
 
            uint32_t tmp_length;
870
 
            if ((unsigned char*) from == to)
871
 
            {
872
 
              set_if_smaller(length,sort_field->length);
873
 
              memcpy(tmp_buffer,from,length);
874
 
              from= tmp_buffer;
875
 
            }
876
 
            tmp_length= my_strnxfrm(cs,to,sort_field->length,
877
 
                                    (unsigned char*) from, length);
878
 
            assert(tmp_length == sort_field->length);
879
 
          }
 
771
            memset(to-1, 0, sort_field->length+1);
880
772
          else
881
773
          {
882
 
            my_strnxfrm(cs,(unsigned char*)to,length,(const unsigned char*)res->ptr(),length);
883
 
            cs->cset->fill(cs, (char *)to+length,diff,fill_char);
 
774
            /*
 
775
              This should only happen during extreme conditions if we run out
 
776
              of memory or have an item marked not null when it can be null.
 
777
              This code is here mainly to avoid a hard crash in this case.
 
778
            */
 
779
            assert(0);
 
780
            memset(to, 0, sort_field->length);  // Avoid crash
884
781
          }
885
782
          break;
886
783
        }
 
784
        length= res->length();
 
785
        sort_field_length= sort_field->length - sort_field->suffix_length;
 
786
        diff=(int) (sort_field_length - length);
 
787
        if (diff < 0)
 
788
        {
 
789
          diff=0;
 
790
          length= sort_field_length;
 
791
        }
 
792
        if (sort_field->suffix_length)
 
793
        {
 
794
          /* Store length last in result_string */
 
795
          store_length(to + sort_field_length, length,
 
796
                       sort_field->suffix_length);
 
797
        }
 
798
        if (sort_field->need_strxnfrm)
 
799
        {
 
800
          char *from=(char*) res->ptr();
 
801
          uint32_t tmp_length;
 
802
          if ((unsigned char*) from == to)
 
803
          {
 
804
            set_if_smaller(length,sort_field->length);
 
805
            memcpy(param->tmp_buffer,from,length);
 
806
            from=param->tmp_buffer;
 
807
          }
 
808
          tmp_length= my_strnxfrm(cs,to,sort_field->length,
 
809
                                  (unsigned char*) from, length);
 
810
          assert(tmp_length == sort_field->length);
 
811
        }
 
812
        else
 
813
        {
 
814
          my_strnxfrm(cs,(unsigned char*)to,length,(const unsigned char*)res->ptr(),length);
 
815
          cs->cset->fill(cs, (char *)to+length,diff,fill_char);
 
816
        }
 
817
        break;
 
818
      }
887
819
      case INT_RESULT:
888
 
        {
 
820
        {
889
821
          int64_t value= item->val_int_result();
890
822
          if (maybe_null)
891
823
          {
892
 
            *to++=1;
 
824
            *to++=1;
893
825
            if (item->null_value)
894
826
            {
895
827
              if (maybe_null)
901
833
              break;
902
834
            }
903
835
          }
904
 
          to[7]= (unsigned char) value;
905
 
          to[6]= (unsigned char) (value >> 8);
906
 
          to[5]= (unsigned char) (value >> 16);
907
 
          to[4]= (unsigned char) (value >> 24);
908
 
          to[3]= (unsigned char) (value >> 32);
909
 
          to[2]= (unsigned char) (value >> 40);
910
 
          to[1]= (unsigned char) (value >> 48);
 
836
          to[7]= (unsigned char) value;
 
837
          to[6]= (unsigned char) (value >> 8);
 
838
          to[5]= (unsigned char) (value >> 16);
 
839
          to[4]= (unsigned char) (value >> 24);
 
840
          to[3]= (unsigned char) (value >> 32);
 
841
          to[2]= (unsigned char) (value >> 40);
 
842
          to[1]= (unsigned char) (value >> 48);
911
843
          if (item->unsigned_flag)                    /* Fix sign */
912
844
            to[0]= (unsigned char) (value >> 56);
913
845
          else
914
846
            to[0]= (unsigned char) (value >> 56) ^ 128; /* Reverse signbit */
915
 
          break;
916
 
        }
 
847
          break;
 
848
        }
917
849
      case DECIMAL_RESULT:
918
850
        {
919
 
          type::Decimal dec_buf, *dec_val= item->val_decimal_result(&dec_buf);
 
851
          my_decimal dec_buf, *dec_val= item->val_decimal_result(&dec_buf);
920
852
          if (maybe_null)
921
853
          {
922
854
            if (item->null_value)
927
859
            }
928
860
            *to++=1;
929
861
          }
930
 
          dec_val->val_binary(E_DEC_FATAL_ERROR, to,
931
 
                              item->max_length - (item->decimals ? 1:0),
932
 
                              item->decimals);
933
 
          break;
 
862
          my_decimal2binary(E_DEC_FATAL_ERROR, dec_val, to,
 
863
                            item->max_length - (item->decimals ? 1:0),
 
864
                            item->decimals);
 
865
         break;
934
866
        }
935
867
      case REAL_RESULT:
936
 
        {
 
868
        {
937
869
          double value= item->val_result();
938
 
          if (maybe_null)
 
870
          if (maybe_null)
939
871
          {
940
872
            if (item->null_value)
941
873
            {
943
875
              to++;
944
876
              break;
945
877
            }
946
 
            *to++=1;
 
878
            *to++=1;
947
879
          }
948
 
          change_double_for_sort(value,(unsigned char*) to);
949
 
          break;
950
 
        }
 
880
          change_double_for_sort(value,(unsigned char*) to);
 
881
          break;
 
882
        }
951
883
      case ROW_RESULT:
952
884
      default:
953
 
        // This case should never be choosen
954
 
        assert(0);
955
 
        break;
 
885
        // This case should never be choosen
 
886
        assert(0);
 
887
        break;
956
888
      }
957
889
    }
958
 
 
959
890
    if (sort_field->reverse)
960
891
    {                                                   /* Revers key */
961
892
      if (maybe_null)
968
899
      }
969
900
    }
970
901
    else
971
 
    {
972
902
      to+= sort_field->length;
973
 
    }
974
903
  }
975
904
 
976
 
  if (addon_field)
 
905
  if (param->addon_field)
977
906
  {
978
907
    /*
979
908
      Save field values appended to sorted fields.
981
910
      In this implementation we use fixed layout for field values -
982
911
      the same for all records.
983
912
    */
984
 
    sort_addon_field *addonf= addon_field;
 
913
    sort_addon_field_st *addonf= param->addon_field;
985
914
    unsigned char *nulls= to;
986
915
    assert(addonf != 0);
987
916
    memset(nulls, 0, addonf->offset);
991
920
      if (addonf->null_bit && field->is_null())
992
921
      {
993
922
        nulls[addonf->null_offset]|= addonf->null_bit;
994
 
#ifdef HAVE_VALGRIND
 
923
#ifdef HAVE_purify
995
924
        memset(to, 0, addonf->length);
996
925
#endif
997
926
      }
998
927
      else
999
928
      {
1000
 
#ifdef HAVE_VALGRIND
 
929
#ifdef HAVE_purify
1001
930
        unsigned char *end= field->pack(to, field->ptr);
1002
 
        uint32_t local_length= (uint32_t) ((to + addonf->length) - end);
1003
 
        assert((int) local_length >= 0);
1004
 
        if (local_length)
1005
 
          memset(end, 0, local_length);
 
931
        uint32_t length= (uint32_t) ((to + addonf->length) - end);
 
932
        assert((int) length >= 0);
 
933
        if (length)
 
934
          memset(end, 0, length);
1006
935
#else
1007
936
        (void) field->pack(to, field->ptr);
1008
937
#endif
1013
942
  else
1014
943
  {
1015
944
    /* Save filepos last */
1016
 
    memcpy(to, ref_pos, (size_t) ref_length);
 
945
    memcpy(to, ref_pos, (size_t) param->ref_length);
1017
946
  }
 
947
  return;
1018
948
}
1019
949
 
1020
950
 
1022
952
  Register fields used by sorting in the sorted table's read set
1023
953
*/
1024
954
 
1025
 
void SortParam::register_used_fields()
 
955
static void register_used_fields(SORTPARAM *param)
1026
956
{
1027
957
  SortField *sort_field;
1028
 
  Table *table= sort_form;
 
958
  Table *table=param->sort_form;
1029
959
 
1030
 
  for (sort_field= local_sortorder ;
1031
 
       sort_field != end ;
 
960
  for (sort_field= param->local_sortorder ;
 
961
       sort_field != param->end ;
1032
962
       sort_field++)
1033
963
  {
1034
964
    Field *field;
1035
965
    if ((field= sort_field->field))
1036
966
    {
1037
967
      if (field->getTable() == table)
1038
 
        table->setReadSet(field->position());
 
968
        table->setReadSet(field->field_index);
1039
969
    }
1040
970
    else
1041
971
    {                                           // Item
1044
974
    }
1045
975
  }
1046
976
 
1047
 
  if (addon_field)
 
977
  if (param->addon_field)
1048
978
  {
1049
 
    sort_addon_field *addonf= addon_field;
 
979
    sort_addon_field_st *addonf= param->addon_field;
1050
980
    Field *field;
1051
981
    for ( ; (field= addonf->field) ; addonf++)
1052
 
      table->setReadSet(field->position());
 
982
      table->setReadSet(field->field_index);
1053
983
  }
1054
984
  else
1055
985
  {
1059
989
}
1060
990
 
1061
991
 
1062
 
bool SortParam::save_index(unsigned char **sort_keys, uint32_t count, filesort_info *table_sort)
 
992
static bool save_index(SORTPARAM *param, unsigned char **sort_keys, uint32_t count,
 
993
                       filesort_info_st *table_sort)
1063
994
{
1064
 
  uint32_t offset;
 
995
  uint32_t offset,res_length;
1065
996
  unsigned char *to;
1066
997
 
1067
 
  internal::my_string_ptr_sort((unsigned char*) sort_keys, (uint32_t) count, sort_length);
1068
 
  offset= rec_length - res_length;
1069
 
 
1070
 
  if ((ha_rows) count > max_rows)
1071
 
    count=(uint32_t) max_rows;
1072
 
 
1073
 
  if (!(to= table_sort->record_pointers= (unsigned char*) malloc(res_length*count)))
1074
 
    return true;
1075
 
 
1076
 
  for (unsigned char **end_ptr= sort_keys+count ; sort_keys != end_ptr ; sort_keys++)
 
998
  internal::my_string_ptr_sort((unsigned char*) sort_keys, (uint32_t) count, param->sort_length);
 
999
  res_length= param->res_length;
 
1000
  offset= param->rec_length-res_length;
 
1001
  if ((ha_rows) count > param->max_rows)
 
1002
    count=(uint32_t) param->max_rows;
 
1003
  if (!(to= table_sort->record_pointers=
 
1004
        (unsigned char*) malloc(res_length*count)))
 
1005
    return(1);
 
1006
  for (unsigned char **end= sort_keys+count ; sort_keys != end ; sort_keys++)
1077
1007
  {
1078
1008
    memcpy(to, *sort_keys+offset, res_length);
1079
1009
    to+= res_length;
1080
1010
  }
1081
 
 
1082
 
  return false;
 
1011
  return(0);
1083
1012
}
1084
1013
 
1085
1014
 
1086
1015
/** Merge buffers to make < MERGEBUFF2 buffers. */
1087
1016
 
1088
 
int FileSort::merge_many_buff(SortParam *param, unsigned char *sort_buffer,
1089
 
                              buffpek *buffpek_inst, uint32_t *maxbuffer, internal::IO_CACHE *t_file)
 
1017
int merge_many_buff(SORTPARAM *param, unsigned char *sort_buffer,
 
1018
                    buffpek_st *buffpek, uint32_t *maxbuffer, internal::IO_CACHE *t_file)
1090
1019
{
 
1020
  register uint32_t i;
1091
1021
  internal::IO_CACHE t_file2,*from_file,*to_file,*temp;
1092
 
  buffpek *lastbuff;
 
1022
  buffpek_st *lastbuff;
1093
1023
 
1094
1024
  if (*maxbuffer < MERGEBUFF2)
1095
 
    return 0;
 
1025
    return(0);
1096
1026
  if (flush_io_cache(t_file) ||
1097
 
      t_file2.open_cached_file(drizzle_tmpdir.c_str(),TEMP_PREFIX,DISK_BUFFER_SIZE, MYF(MY_WME)))
1098
 
  {
1099
 
    return 1;
1100
 
  }
 
1027
      open_cached_file(&t_file2,drizzle_tmpdir.c_str(),TEMP_PREFIX,DISK_BUFFER_SIZE,
 
1028
                        MYF(MY_WME)))
 
1029
    return(1);
1101
1030
 
1102
1031
  from_file= t_file ; to_file= &t_file2;
1103
1032
  while (*maxbuffer >= MERGEBUFF2)
1104
1033
  {
1105
 
    register uint32_t i;
1106
 
 
1107
 
    if (from_file->reinit_io_cache(internal::READ_CACHE,0L,0,0))
1108
 
    {
1109
 
      break;
1110
 
    }
1111
 
 
1112
 
    if (to_file->reinit_io_cache(internal::WRITE_CACHE,0L,0,0))
1113
 
    {
1114
 
      break;
1115
 
    }
1116
 
 
1117
 
    lastbuff=buffpek_inst;
 
1034
    if (reinit_io_cache(from_file,internal::READ_CACHE,0L,0,0))
 
1035
      goto cleanup;
 
1036
    if (reinit_io_cache(to_file,internal::WRITE_CACHE,0L,0,0))
 
1037
      goto cleanup;
 
1038
    lastbuff=buffpek;
1118
1039
    for (i=0 ; i <= *maxbuffer-MERGEBUFF*3/2 ; i+=MERGEBUFF)
1119
1040
    {
1120
1041
      if (merge_buffers(param,from_file,to_file,sort_buffer,lastbuff++,
1121
 
                        buffpek_inst+i,buffpek_inst+i+MERGEBUFF-1,0))
1122
 
      {
1123
 
        goto cleanup;
1124
 
      }
 
1042
                        buffpek+i,buffpek+i+MERGEBUFF-1,0))
 
1043
      goto cleanup;
1125
1044
    }
1126
 
 
1127
1045
    if (merge_buffers(param,from_file,to_file,sort_buffer,lastbuff++,
1128
 
                      buffpek_inst+i,buffpek_inst+ *maxbuffer,0))
1129
 
    {
 
1046
                      buffpek+i,buffpek+ *maxbuffer,0))
1130
1047
      break;
1131
 
    }
1132
 
 
1133
1048
    if (flush_io_cache(to_file))
1134
 
    {
1135
1049
      break;
1136
 
    }
1137
 
 
1138
1050
    temp=from_file; from_file=to_file; to_file=temp;
1139
 
    from_file->setup_io_cache();
1140
 
    to_file->setup_io_cache();
1141
 
    *maxbuffer= (uint32_t) (lastbuff-buffpek_inst)-1;
 
1051
    setup_io_cache(from_file);
 
1052
    setup_io_cache(to_file);
 
1053
    *maxbuffer= (uint32_t) (lastbuff-buffpek)-1;
1142
1054
  }
1143
 
 
1144
1055
cleanup:
1145
 
  to_file->close_cached_file();                 // This holds old result
 
1056
  close_cached_file(to_file);                   // This holds old result
1146
1057
  if (to_file == t_file)
1147
1058
  {
1148
1059
    *t_file=t_file2;                            // Copy result file
1149
 
    t_file->setup_io_cache();
 
1060
    setup_io_cache(t_file);
1150
1061
  }
1151
1062
 
1152
1063
  return(*maxbuffer >= MERGEBUFF2);     /* Return 1 if interrupted */
1160
1071
    (uint32_t)-1 if something goes wrong
1161
1072
*/
1162
1073
 
1163
 
uint32_t FileSort::read_to_buffer(internal::IO_CACHE *fromfile, buffpek *buffpek_inst, uint32_t rec_length)
 
1074
uint32_t read_to_buffer(internal::IO_CACHE *fromfile, buffpek_st *buffpek,
 
1075
                        uint32_t rec_length)
1164
1076
{
1165
1077
  register uint32_t count;
1166
1078
  uint32_t length;
1167
1079
 
1168
 
  if ((count= (uint32_t) min((ha_rows) buffpek_inst->max_keys,buffpek_inst->count)))
 
1080
  if ((count= (uint32_t) min((ha_rows) buffpek->max_keys,buffpek->count)))
1169
1081
  {
1170
 
    if (pread(fromfile->file,(unsigned char*) buffpek_inst->base, (length= rec_length*count),buffpek_inst->file_pos) == 0)
 
1082
    if (pread(fromfile->file,(unsigned char*) buffpek->base, (length= rec_length*count),buffpek->file_pos) == 0)
1171
1083
      return((uint32_t) -1);
1172
1084
 
1173
 
    buffpek_inst->key= buffpek_inst->base;
1174
 
    buffpek_inst->file_pos+= length;                    /* New filepos */
1175
 
    buffpek_inst->count-= count;
1176
 
    buffpek_inst->mem_count= count;
 
1085
    buffpek->key= buffpek->base;
 
1086
    buffpek->file_pos+= length;                 /* New filepos */
 
1087
    buffpek->count-= count;
 
1088
    buffpek->mem_count= count;
1177
1089
  }
1178
1090
  return (count*rec_length);
1179
1091
} /* read_to_buffer */
1183
1095
{
1184
1096
  qsort2_cmp key_compare;
1185
1097
  void *key_compare_arg;
1186
 
 
1187
1098
  public:
1188
 
  compare_functor(qsort2_cmp in_key_compare, void *in_compare_arg) :
1189
 
    key_compare(in_key_compare),
1190
 
    key_compare_arg(in_compare_arg)
1191
 
  { }
1192
 
  
1193
 
  inline bool operator()(const buffpek *i, const buffpek *j) const
 
1099
  compare_functor(qsort2_cmp in_key_compare, void *in_compare_arg)
 
1100
    : key_compare(in_key_compare), key_compare_arg(in_compare_arg) { }
 
1101
  inline bool operator()(const buffpek_st *i, const buffpek_st *j) const
1194
1102
  {
1195
 
    int val= key_compare(key_compare_arg, &i->key, &j->key);
1196
 
 
 
1103
    int val= key_compare(key_compare_arg,
 
1104
                      &i->key, &j->key);
1197
1105
    return (val >= 0);
1198
1106
  }
1199
1107
};
1203
1111
  Merge buffers to one buffer.
1204
1112
 
1205
1113
  @param param        Sort parameter
1206
 
  @param from_file    File with source data (buffpeks point to this file)
 
1114
  @param from_file    File with source data (buffpek_sts point to this file)
1207
1115
  @param to_file      File to write the sorted result data.
1208
1116
  @param sort_buffer  Buffer for data to store up to MERGEBUFF2 sort keys.
1209
 
  @param lastbuff     OUT Store here buffpek describing data written to to_file
1210
 
  @param Fb           First element in source buffpeks array
1211
 
  @param Tb           Last element in source buffpeks array
 
1117
  @param lastbuff     OUT Store here buffpek_st describing data written to to_file
 
1118
  @param Fb           First element in source buffpek_sts array
 
1119
  @param Tb           Last element in source buffpek_sts array
1212
1120
  @param flag
1213
1121
 
1214
1122
  @retval
1217
1125
    other  error
1218
1126
*/
1219
1127
 
1220
 
int FileSort::merge_buffers(SortParam *param, internal::IO_CACHE *from_file,
1221
 
                            internal::IO_CACHE *to_file, unsigned char *sort_buffer,
1222
 
                            buffpek *lastbuff, buffpek *Fb, buffpek *Tb,
1223
 
                            int flag)
 
1128
int merge_buffers(SORTPARAM *param, internal::IO_CACHE *from_file,
 
1129
                  internal::IO_CACHE *to_file, unsigned char *sort_buffer,
 
1130
                  buffpek_st *lastbuff, buffpek_st *Fb, buffpek_st *Tb,
 
1131
                  int flag)
1224
1132
{
1225
1133
  int error;
1226
1134
  uint32_t rec_length,res_length,offset;
1229
1137
  ha_rows max_rows,org_max_rows;
1230
1138
  internal::my_off_t to_start_filepos;
1231
1139
  unsigned char *strpos;
1232
 
  buffpek *buffpek_inst;
 
1140
  buffpek_st *buffpek;
1233
1141
  qsort2_cmp cmp;
1234
1142
  void *first_cmp_arg;
1235
 
  volatile Session::killed_state_t *killed= getSession().getKilledPtr();
1236
 
  Session::killed_state_t not_killable;
 
1143
  volatile Session::killed_state *killed= &current_session->killed;
 
1144
  Session::killed_state not_killable;
1237
1145
 
1238
 
  getSession().status_var.filesort_merge_passes++;
 
1146
  current_session->status_var.filesort_merge_passes++;
1239
1147
  if (param->not_killable)
1240
1148
  {
1241
1149
    killed= &not_killable;
1265
1173
    cmp= internal::get_ptr_compare(sort_length);
1266
1174
    first_cmp_arg= (void*) &sort_length;
1267
1175
  }
1268
 
  priority_queue<buffpek *, vector<buffpek *>, compare_functor >
 
1176
  priority_queue<buffpek_st *, vector<buffpek_st *>, compare_functor > 
1269
1177
    queue(compare_functor(cmp, first_cmp_arg));
1270
 
  for (buffpek_inst= Fb ; buffpek_inst <= Tb ; buffpek_inst++)
 
1178
  for (buffpek= Fb ; buffpek <= Tb ; buffpek++)
1271
1179
  {
1272
 
    buffpek_inst->base= strpos;
1273
 
    buffpek_inst->max_keys= maxcount;
1274
 
    strpos+= (uint32_t) (error= (int) read_to_buffer(from_file, buffpek_inst,
 
1180
    buffpek->base= strpos;
 
1181
    buffpek->max_keys= maxcount;
 
1182
    strpos+= (uint32_t) (error= (int) read_to_buffer(from_file, buffpek,
1275
1183
                                                                         rec_length));
1276
1184
    if (error == -1)
1277
 
      return -1;
1278
 
 
1279
 
    buffpek_inst->max_keys= buffpek_inst->mem_count;    // If less data in buffers than expected
1280
 
    queue.push(buffpek_inst);
 
1185
      goto err;
 
1186
    buffpek->max_keys= buffpek->mem_count;      // If less data in buffers than expected
 
1187
    queue.push(buffpek);
1281
1188
  }
1282
1189
 
1283
1190
  if (param->unique_buff)
1290
1197
       This is safe as we know that there is always more than one element
1291
1198
       in each block to merge (This is guaranteed by the Unique:: algorithm
1292
1199
    */
1293
 
    buffpek_inst= queue.top();
1294
 
    memcpy(param->unique_buff, buffpek_inst->key, rec_length);
1295
 
    if (my_b_write(to_file, (unsigned char*) buffpek_inst->key, rec_length))
 
1200
    buffpek= queue.top();
 
1201
    memcpy(param->unique_buff, buffpek->key, rec_length);
 
1202
    if (my_b_write(to_file, (unsigned char*) buffpek->key, rec_length))
1296
1203
    {
1297
 
      return 1;
 
1204
      error=1; goto err;
1298
1205
    }
1299
 
    buffpek_inst->key+= rec_length;
1300
 
    buffpek_inst->mem_count--;
 
1206
    buffpek->key+= rec_length;
 
1207
    buffpek->mem_count--;
1301
1208
    if (!--max_rows)
1302
1209
    {
1303
1210
      error= 0;
1305
1212
    }
1306
1213
    /* Top element has been used */
1307
1214
    queue.pop();
1308
 
    queue.push(buffpek_inst);
 
1215
    queue.push(buffpek);
1309
1216
  }
1310
1217
  else
1311
 
  {
1312
1218
    cmp= 0;                                        // Not unique
1313
 
  }
1314
1219
 
1315
1220
  while (queue.size() > 1)
1316
1221
  {
1317
1222
    if (*killed)
1318
1223
    {
1319
 
      return 1;
 
1224
      error= 1; goto err;
1320
1225
    }
1321
1226
    for (;;)
1322
1227
    {
1323
 
      buffpek_inst= queue.top();
 
1228
      buffpek= queue.top();
1324
1229
      if (cmp)                                        // Remove duplicates
1325
1230
      {
1326
1231
        if (!(*cmp)(first_cmp_arg, &(param->unique_buff),
1327
 
                    (unsigned char**) &buffpek_inst->key))
 
1232
                    (unsigned char**) &buffpek->key))
1328
1233
              goto skip_duplicate;
1329
 
            memcpy(param->unique_buff, buffpek_inst->key, rec_length);
 
1234
            memcpy(param->unique_buff, buffpek->key, rec_length);
1330
1235
      }
1331
1236
      if (flag == 0)
1332
1237
      {
1333
 
        if (my_b_write(to_file,(unsigned char*) buffpek_inst->key, rec_length))
 
1238
        if (my_b_write(to_file,(unsigned char*) buffpek->key, rec_length))
1334
1239
        {
1335
 
          return 1;
 
1240
          error=1; goto err;
1336
1241
        }
1337
1242
      }
1338
1243
      else
1339
1244
      {
1340
 
        if (my_b_write(to_file, (unsigned char*) buffpek_inst->key+offset, res_length))
 
1245
        if (my_b_write(to_file, (unsigned char*) buffpek->key+offset, res_length))
1341
1246
        {
1342
 
          return 1;
 
1247
          error=1; goto err;
1343
1248
        }
1344
1249
      }
1345
1250
      if (!--max_rows)
1349
1254
      }
1350
1255
 
1351
1256
    skip_duplicate:
1352
 
      buffpek_inst->key+= rec_length;
1353
 
      if (! --buffpek_inst->mem_count)
 
1257
      buffpek->key+= rec_length;
 
1258
      if (! --buffpek->mem_count)
1354
1259
      {
1355
 
        if (!(error= (int) read_to_buffer(from_file,buffpek_inst,
 
1260
        if (!(error= (int) read_to_buffer(from_file,buffpek,
1356
1261
                                          rec_length)))
1357
1262
        {
1358
1263
          queue.pop();
1359
1264
          break;                        /* One buffer have been removed */
1360
1265
        }
1361
1266
        else if (error == -1)
1362
 
        {
1363
 
          return -1;
1364
 
        }
 
1267
          goto err;
1365
1268
      }
1366
1269
      /* Top element has been replaced */
1367
1270
      queue.pop();
1368
 
      queue.push(buffpek_inst);
 
1271
      queue.push(buffpek);
1369
1272
    }
1370
1273
  }
1371
 
  buffpek_inst= queue.top();
1372
 
  buffpek_inst->base= sort_buffer;
1373
 
  buffpek_inst->max_keys= param->keys;
 
1274
  buffpek= queue.top();
 
1275
  buffpek->base= sort_buffer;
 
1276
  buffpek->max_keys= param->keys;
1374
1277
 
1375
1278
  /*
1376
1279
    As we know all entries in the buffer are unique, we only have to
1378
1281
  */
1379
1282
  if (cmp)
1380
1283
  {
1381
 
    if (!(*cmp)(first_cmp_arg, &(param->unique_buff), (unsigned char**) &buffpek_inst->key))
 
1284
    if (!(*cmp)(first_cmp_arg, &(param->unique_buff), (unsigned char**) &buffpek->key))
1382
1285
    {
1383
 
      buffpek_inst->key+= rec_length;         // Remove duplicate
1384
 
      --buffpek_inst->mem_count;
 
1286
      buffpek->key+= rec_length;         // Remove duplicate
 
1287
      --buffpek->mem_count;
1385
1288
    }
1386
1289
  }
1387
1290
 
1388
1291
  do
1389
1292
  {
1390
 
    if ((ha_rows) buffpek_inst->mem_count > max_rows)
 
1293
    if ((ha_rows) buffpek->mem_count > max_rows)
1391
1294
    {                                        /* Don't write too many records */
1392
 
      buffpek_inst->mem_count= (uint32_t) max_rows;
1393
 
      buffpek_inst->count= 0;                        /* Don't read more */
 
1295
      buffpek->mem_count= (uint32_t) max_rows;
 
1296
      buffpek->count= 0;                        /* Don't read more */
1394
1297
    }
1395
 
    max_rows-= buffpek_inst->mem_count;
 
1298
    max_rows-= buffpek->mem_count;
1396
1299
    if (flag == 0)
1397
1300
    {
1398
 
      if (my_b_write(to_file,(unsigned char*) buffpek_inst->key,
1399
 
                     (rec_length*buffpek_inst->mem_count)))
 
1301
      if (my_b_write(to_file,(unsigned char*) buffpek->key,
 
1302
                     (rec_length*buffpek->mem_count)))
1400
1303
      {
1401
 
        return 1;
 
1304
        error= 1; goto err;
1402
1305
      }
1403
1306
    }
1404
1307
    else
1405
1308
    {
1406
1309
      register unsigned char *end;
1407
 
      strpos= buffpek_inst->key+offset;
1408
 
      for (end= strpos+buffpek_inst->mem_count*rec_length ;
 
1310
      strpos= buffpek->key+offset;
 
1311
      for (end= strpos+buffpek->mem_count*rec_length ;
1409
1312
           strpos != end ;
1410
1313
           strpos+= rec_length)
1411
1314
      {
1412
1315
        if (my_b_write(to_file, (unsigned char *) strpos, res_length))
1413
1316
        {
1414
 
          return 1;
 
1317
          error=1; goto err;
1415
1318
        }
1416
1319
      }
1417
1320
    }
1418
1321
  }
1419
 
 
1420
 
  while ((error=(int) read_to_buffer(from_file,buffpek_inst, rec_length))
 
1322
  while ((error=(int) read_to_buffer(from_file,buffpek, rec_length))
1421
1323
         != -1 && error != 0);
1422
1324
 
1423
1325
end:
1424
1326
  lastbuff->count= min(org_max_rows-max_rows, param->max_rows);
1425
1327
  lastbuff->file_pos= to_start_filepos;
1426
 
 
1427
 
  return error;
 
1328
err:
 
1329
  return(error);
1428
1330
} /* merge_buffers */
1429
1331
 
1430
1332
 
1431
1333
        /* Do a merge to output-file (save only positions) */
1432
1334
 
1433
 
int FileSort::merge_index(SortParam *param, unsigned char *sort_buffer,
1434
 
                          buffpek *buffpek_inst, uint32_t maxbuffer,
1435
 
                          internal::IO_CACHE *tempfile, internal::IO_CACHE *outfile)
 
1335
static int merge_index(SORTPARAM *param, unsigned char *sort_buffer,
 
1336
                       buffpek_st *buffpek, uint32_t maxbuffer,
 
1337
                       internal::IO_CACHE *tempfile, internal::IO_CACHE *outfile)
1436
1338
{
1437
 
  if (merge_buffers(param,tempfile,outfile,sort_buffer,buffpek_inst,buffpek_inst,
1438
 
                    buffpek_inst+maxbuffer,1))
1439
 
    return 1;
1440
 
 
1441
 
  return 0;
 
1339
  if (merge_buffers(param,tempfile,outfile,sort_buffer,buffpek,buffpek,
 
1340
                    buffpek+maxbuffer,1))
 
1341
    return(1);
 
1342
  return(0);
1442
1343
} /* merge_index */
1443
1344
 
1444
1345
 
1458
1359
/**
1459
1360
  Calculate length of sort key.
1460
1361
 
 
1362
  @param session                          Thread Cursor
1461
1363
  @param sortorder                Order of items to sort
1462
1364
  @param s_length                 Number of items to sort
1463
1365
  @param[out] multi_byte_charset Set to 1 if we are using multi-byte charset
1472
1374
    Total length of sort buffer in bytes
1473
1375
*/
1474
1376
 
1475
 
uint32_t FileSort::sortlength(SortField *sortorder, uint32_t s_length, bool *multi_byte_charset)
 
1377
static uint32_t
 
1378
sortlength(Session *session, SortField *sortorder, uint32_t s_length,
 
1379
           bool *multi_byte_charset)
1476
1380
{
1477
1381
  register uint32_t length;
1478
1382
  const CHARSET_INFO *cs;
1502
1406
      sortorder->result_type= sortorder->item->result_type();
1503
1407
      if (sortorder->item->result_as_int64_t())
1504
1408
        sortorder->result_type= INT_RESULT;
1505
 
 
1506
1409
      switch (sortorder->result_type) {
1507
1410
      case STRING_RESULT:
1508
 
        sortorder->length=sortorder->item->max_length;
 
1411
        sortorder->length=sortorder->item->max_length;
1509
1412
        set_if_smaller(sortorder->length,
1510
 
                       getSession().variables.max_sort_length);
1511
 
        if (use_strnxfrm((cs=sortorder->item->collation.collation)))
1512
 
        {
 
1413
                       session->variables.max_sort_length);
 
1414
        if (use_strnxfrm((cs=sortorder->item->collation.collation)))
 
1415
        {
1513
1416
          sortorder->length= cs->coll->strnxfrmlen(cs, sortorder->length);
1514
 
          sortorder->need_strxnfrm= 1;
1515
 
          *multi_byte_charset= 1;
1516
 
        }
 
1417
          sortorder->need_strxnfrm= 1;
 
1418
          *multi_byte_charset= 1;
 
1419
        }
1517
1420
        else if (cs == &my_charset_bin)
1518
1421
        {
1519
1422
          /* Store length last to be able to sort blob/varbinary */
1520
1423
          sortorder->suffix_length= suffix_length(sortorder->length);
1521
1424
          sortorder->length+= sortorder->suffix_length;
1522
1425
        }
1523
 
        break;
 
1426
        break;
1524
1427
      case INT_RESULT:
1525
 
        sortorder->length=8;                    // Size of intern int64_t
1526
 
        break;
 
1428
        sortorder->length=8;                    // Size of intern int64_t
 
1429
        break;
1527
1430
      case DECIMAL_RESULT:
1528
1431
        sortorder->length=
1529
 
          class_decimal_get_binary_size(sortorder->item->max_length -
 
1432
          my_decimal_get_binary_size(sortorder->item->max_length -
1530
1433
                                     (sortorder->item->decimals ? 1 : 0),
1531
1434
                                     sortorder->item->decimals);
1532
1435
        break;
1533
1436
      case REAL_RESULT:
1534
 
        sortorder->length=sizeof(double);
1535
 
        break;
 
1437
        sortorder->length=sizeof(double);
 
1438
        break;
1536
1439
      case ROW_RESULT:
1537
 
        // This case should never be choosen
1538
 
        assert(0);
1539
 
        break;
 
1440
      default:
 
1441
        // This case should never be choosen
 
1442
        assert(0);
 
1443
        break;
1540
1444
      }
1541
1445
      if (sortorder->item->maybe_null)
1542
 
        length++;                               // Place for NULL marker
 
1446
        length++;                               // Place for NULL marker
1543
1447
    }
1544
 
    set_if_smaller(sortorder->length, (size_t)getSession().variables.max_sort_length);
 
1448
    set_if_smaller(sortorder->length,
 
1449
                   (size_t)session->variables.max_sort_length);
1545
1450
    length+=sortorder->length;
1546
1451
  }
1547
1452
  sortorder->field= (Field*) 0;                 // end marker
1561
1466
  layouts for the values of the non-sorted fields in the buffer and
1562
1467
  fills them.
1563
1468
 
 
1469
  @param session                 Current thread
1564
1470
  @param ptabfield           Array of references to the table fields
1565
1471
  @param sortlength          Total length of sorted fields
1566
1472
  @param[out] plength        Total length of appended fields
1575
1481
    NULL   if we do not store field values with sort data.
1576
1482
*/
1577
1483
 
1578
 
sort_addon_field *FileSort::get_addon_fields(Field **ptabfield, uint32_t sortlength_arg, uint32_t *plength)
 
1484
static sort_addon_field_st *
 
1485
get_addon_fields(Session *session, Field **ptabfield, uint32_t sortlength, uint32_t *plength)
1579
1486
{
1580
1487
  Field **pfield;
1581
1488
  Field *field;
1582
 
  sort_addon_field *addonf;
 
1489
  sort_addon_field_st *addonf;
1583
1490
  uint32_t length= 0;
1584
1491
  uint32_t fields= 0;
1585
1492
  uint32_t null_fields= 0;
1610
1517
    return 0;
1611
1518
  length+= (null_fields+7)/8;
1612
1519
 
1613
 
  if (length+sortlength_arg > getSession().variables.max_length_for_sort_data ||
1614
 
      !(addonf= (sort_addon_field *) malloc(sizeof(sort_addon_field)*
 
1520
  if (length+sortlength > session->variables.max_length_for_sort_data ||
 
1521
      !(addonf= (sort_addon_field_st *) malloc(sizeof(sort_addon_field_st)*
1615
1522
                                            (fields+1))))
1616
1523
    return 0;
1617
1524
 
1661
1568
*/
1662
1569
 
1663
1570
static void
1664
 
unpack_addon_fields(sort_addon_field *addon_field, unsigned char *buff)
 
1571
unpack_addon_fields(struct sort_addon_field_st *addon_field, unsigned char *buff)
1665
1572
{
1666
1573
  Field *field;
1667
 
  sort_addon_field *addonf= addon_field;
 
1574
  sort_addon_field_st *addonf= addon_field;
1668
1575
 
1669
1576
  for ( ; (field= addonf->field) ; addonf++)
1670
1577
  {