← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to plugin/pbms/src/Transaction_ms.cc

Added the PBMS daemon plugin.

(Augen zu und durch!)

Show diffs side-by-side

added added

removed removed

Lines of Context:
plugin/pbms/src/Transaction_ms.cc
 
1
/* Copyright (c) 2009 PrimeBase Technologies GmbH, Germany
 
2
 *
 
3
 * PrimeBase Media Stream for MySQL
 
4
 *
 
5
 * This program is free software; you can redistribute it and/or modify
 
6
 * it under the terms of the GNU General Public License as published by
 
7
 * the Free Software Foundation; either version 2 of the License, or
 
8
 * (at your option) any later version.
 
9
 *
 
10
 * This program is distributed in the hope that it will be useful,
 
11
 * but WITHOUT ANY WARRANTY; without even the implied warranty of
 
12
 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 
13
 * GNU General Public License for more details.
 
14
 *
 
15
 * You should have received a copy of the GNU General Public License
 
16
 * along with this program; if not, write to the Free Software
 
17
 * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
 
18
 *
 
19
 * Barry Leslie
 
20
 *
 
21
 * 2009-07-09
 
22
 *
 
23
 * H&G2JCtL
 
24
 *
 
25
 * PBMS transaction daemon.
 
26
 *
 
27
 *
 
28
 */
 
29
 
 
30
#include "CSConfig.h"
 
31
#include <inttypes.h>
 
32
 
 
33
#include "CSGlobal.h"
 
34
#include "CSStrUtil.h"
 
35
#include "CSLog.h"
 
36
 
 
37
#include "Defs_ms.h"
 
38
#include "Util_ms.h"
 
39
#include "ms_mysql.h"
 
40
#include "OpenTable_ms.h"
 
41
#include "TransLog_ms.h"
 
42
#include "Transaction_ms.h"
 
43
 
 
44
MSTrans *MSTransactionManager::tm_Log;
 
45
MSTransactionThread *MSTransactionManager::tm_Reader;
 
46
 
 
47
 
 
48
typedef  struct {
 
49
        CSDiskValue4    lr_time_4;              // The database ID for the operation.
 
50
        CSDiskValue1    lr_state_1;             // The transaction state. 
 
51
        CSDiskValue1    lr_type_1;              // The transaction type. If the first bit is set then the transaction is an autocommit.
 
52
        CSDiskValue4    lr_db_id_4;             // The database ID for the operation.
 
53
        CSDiskValue4    lr_tab_id_4;    // The table ID for the operation.
 
54
        CSDiskValue8    lr_blob_id_8;   // The blob ID for the operation.
 
55
        CSDiskValue8    lr_blob_ref_id_8;// The blob reference id.
 
56
} MSDiskLostRec, *MSDiskLostPtr;
 
57
 
 
58
/*
 
59
 * ---------------------------------------------------------------
 
60
 * The transaction reader thread 
 
61
 */
 
62
 
 
63
class MSTransactionThread : public CSDaemon {
 
64
public:
 
65
        MSTransactionThread(MSTrans *txn_log);
 
66
        
 
67
        virtual ~MSTransactionThread();
 
68
 
 
69
        void close();
 
70
 
 
71
        virtual bool doWork();
 
72
 
 
73
        virtual void *finalize();
 
74
        
 
75
        void flush();
 
76
private:
 
77
        void reportLostReference(MSTransPtr rec, MS_TxnState state);
 
78
        void dereference(MSTransPtr rec, MS_TxnState state);
 
79
        void commitReference(MSTransPtr rec, MS_TxnState state);
 
80
        
 
81
        CSFile  *lostLog;
 
82
        MSTrans *log;
 
83
 
 
84
};
 
85
 
 
86
MSTransactionThread::MSTransactionThread(MSTrans *txn_log):
 
87
CSDaemon(0, NULL),
 
88
log(txn_log),
 
89
lostLog(NULL)
 
90
{
 
91
        log->txn_SetReader(this);
 
92
}
 
93
 
 
94
MSTransactionThread::~MSTransactionThread()
 
95
{
 
96
        close();
 
97
        
 
98
        if (log)
 
99
                log->release();
 
100
                
 
101
        if (lostLog)
 
102
                lostLog->release();
 
103
}
 
104
 
 
105
void MSTransactionThread::close()
 
106
{
 
107
        if (lostLog)
 
108
                lostLog->close();
 
109
}
 
110
 
 
111
void MSTransactionThread::reportLostReference(MSTransPtr rec, MS_TxnState state)
 
112
{
 
113
        MSDiskLostRec lrec;
 
114
        const char *t_txt, *s_txt;
 
115
        char b1[16], b2[16], msg[100];
 
116
        enter_();
 
117
        
 
118
        switch (state) {
 
119
                case MS_Committed:
 
120
                        s_txt = "Commit";
 
121
                        break;
 
122
                case MS_RolledBack:
 
123
                        s_txt = "RolledBack";
 
124
                        break;
 
125
                case MS_Recovered:
 
126
                        s_txt = "Recovered";
 
127
                        break;
 
128
                case MS_Running:
 
129
                        s_txt = "Running";
 
130
                        break;
 
131
                default:
 
132
                        snprintf(b1, 16, "(%d)?", state);
 
133
                        s_txt = b1;
 
134
        }
 
135
 
 
136
        switch (TRANS_TYPE(rec->tr_type)) {
 
137
                case MS_DereferenceTxn:
 
138
                        t_txt = "Dereference";
 
139
                        break;
 
140
                case MS_ReferenceTxn:
 
141
                        t_txt = "Reference";
 
142
                        break;
 
143
                default:
 
144
                        snprintf(b2, 16, "(%x)?", rec->tr_type);
 
145
                        t_txt = b2;
 
146
        }
 
147
 
 
148
        snprintf(msg, 100, "Lost PBMS record: %s %s db_id: %"PRIu32" tab_id: %"PRIu32" blob_id: %"PRIu64"", s_txt, t_txt, rec->tr_db_id, rec->tr_tab_id, rec->tr_blob_id);
 
149
        CSL.logLine(self, CSLog::Warning, msg);
 
150
 
 
151
        CS_SET_DISK_4(lrec.lr_time_4, time(NULL));
 
152
        CS_SET_DISK_1(lrec.lr_state_1, state);
 
153
        CS_SET_DISK_1(lrec.lr_type_1, rec->tr_type);
 
154
        CS_SET_DISK_4(lrec.lr_db_id_4, rec->tr_db_id);
 
155
        CS_SET_DISK_4(lrec.lr_tab_id_4, rec->tr_tab_id);
 
156
        CS_SET_DISK_8(lrec.lr_blob_id_8, rec->tr_blob_id);
 
157
        CS_SET_DISK_8(lrec.lr_blob_ref_id_8, rec->tr_blob_ref_id);
 
158
        
 
159
        if (!lostLog) {
 
160
                CSPath *path;
 
161
                char *str = cs_strdup(log->txn_GetTXNLogPath());
 
162
                cs_remove_last_name_of_path(str);
 
163
                
 
164
                path = CSPath::newPath(str, "pbms_lost_txn.dat");
 
165
                cs_free(str);
 
166
                
 
167
                lostLog = CSFile::newFile(path);
 
168
                lostLog->open(CSFile::CREATE);
 
169
        }
 
170
        lostLog->write(&lrec, lostLog->getEOF(), sizeof(MSDiskLostRec));
 
171
        lostLog->sync();
 
172
        exit_();
 
173
        
 
174
}
 
175
 
 
176
void MSTransactionThread::dereference(MSTransPtr rec, MS_TxnState state)
 
177
{
 
178
        MSOpenTable             *otab;
 
179
        enter_();
 
180
        
 
181
        try_(a) {
 
182
                otab = MSTableList::getOpenTableByID(rec->tr_db_id, rec->tr_tab_id);
 
183
                frompool_(otab);
 
184
                otab->freeReference(rec->tr_blob_id, rec->tr_blob_ref_id);
 
185
                backtopool_(otab);
 
186
        }
 
187
        
 
188
        catch_(a) {
 
189
                reportLostReference(rec, state);
 
190
        }
 
191
        
 
192
        cont_(a);       
 
193
        exit_();
 
194
}
 
195
 
 
196
void MSTransactionThread::commitReference(MSTransPtr rec, MS_TxnState state)
 
197
{
 
198
        MSOpenTable             *otab;
 
199
        enter_();
 
200
        
 
201
        try_(a) {
 
202
                otab = MSTableList::getOpenTableByID(rec->tr_db_id, rec->tr_tab_id);
 
203
                frompool_(otab);
 
204
                otab->commitReference(rec->tr_blob_id, rec->tr_blob_ref_id);
 
205
                backtopool_(otab);
 
206
        }
 
207
        
 
208
        catch_(a) {
 
209
                reportLostReference(rec, state);
 
210
        }
 
211
        
 
212
        cont_(a);       
 
213
        exit_();
 
214
}
 
215
 
 
216
void MSTransactionThread::flush()
 
217
{
 
218
        enter_();
 
219
        
 
220
        // For now I just wait until the transaction queue is empty or
 
221
        // the transaction at the head of the queue has not yet been
 
222
        // committed.
 
223
        //
 
224
        // What needs to be done is for the transaction log to scan 
 
225
        // past the non commited transaction to see if there are any
 
226
        // other committed transaction in the log and apply them if found.
 
227
        
 
228
        wakeup(); // Incase the reader is sleeping.
 
229
        while (log->txn_haveNextTransaction() && !isSuspend())
 
230
                self->sleep(10);                
 
231
        exit_();
 
232
}
 
233
 
 
234
bool MSTransactionThread::doWork()
 
235
{
 
236
        MSTransRec rec = {0};
 
237
        MS_TxnState state;
 
238
        enter_();
 
239
        
 
240
        try_(a) {
 
241
                while (!myMustQuit) {
 
242
                        // This will sleep while waiting for the next 
 
243
                        // completed transaction.
 
244
                        log->txn_GetNextTransaction(&rec, &state); 
 
245
                        if (myMustQuit)
 
246
                                break;
 
247
                                
 
248
                        if (rec.tr_db_id == 0) // The database was dropped.
 
249
                                continue;
 
250
                                
 
251
                        if (state == MS_Committed){
 
252
                                if (TRANS_TYPE(rec.tr_type) == MS_DereferenceTxn) 
 
253
                                        dereference(&rec, state);
 
254
                                else if (TRANS_TYPE(rec.tr_type) == MS_ReferenceTxn)  
 
255
                                        commitReference(&rec, state);
 
256
 
 
257
                        } else if (state == MS_RolledBack) { 
 
258
                                // There is nothing to do on rollback of a dereference.
 
259
                                
 
260
                                if (TRANS_TYPE(rec.tr_type) == MS_ReferenceTxn)  
 
261
                                        dereference(&rec, state);
 
262
                                        
 
263
                        } else if (state == MS_Recovered) { 
 
264
                                if ((TRANS_TYPE(rec.tr_type) == MS_ReferenceTxn) || (TRANS_TYPE(rec.tr_type) == MS_DereferenceTxn))
 
265
                                        reportLostReference(&rec, state); // Report these even though they may not be lost.
 
266
                                
 
267
                                // Because of the 2 phase commit issue with other engines I cannot
 
268
                                // just roll back the transaction because it may have been committed 
 
269
                                // on the master engine. So to be safe I will always err on the side
 
270
                                // of having unreference BLOBs in the repository rather than risking
 
271
                                // deleting a BLOB that was referenced. To this end I will commit references
 
272
                                // while ignoring (rolling back) dereferences.
 
273
                                if (TRANS_TYPE(rec.tr_type) == MS_ReferenceTxn)  
 
274
                                        commitReference(&rec, state);
 
275
                                
 
276
                        }
 
277
                }
 
278
        }
 
279
        
 
280
        catch_(a) {
 
281
                self->logException();
 
282
                CSL.logLine(NULL, CSLog::Error, "!!!!!!!! THE PBMS TRANSACTION LOG READER DIED! !!!!!!!!!!!");
 
283
        }
 
284
        cont_(a);
 
285
        return_(true);
 
286
}
 
287
 
 
288
void *MSTransactionThread::finalize()
 
289
{
 
290
        close();
 
291
        return NULL;
 
292
};
 
293
 
 
294
/*
 
295
 * ---------------------------------------------------------------
 
296
 * The transaction log manager 
 
297
 */
 
298
void MSTransactionManager::startUpReader()
 
299
{
 
300
        CSStringBuffer *log;
 
301
        enter_();
 
302
        
 
303
        new_(log, CSStringBuffer(20));
 
304
        push_(log);
 
305
        log->append(ms_my_get_mysql_home_path());
 
306
        log->append("pbms");
 
307
        log->append("/ms-trans-log.dat");
 
308
 
 
309
        tm_Log = MSTrans::txn_NewMSTrans(log->getCString());
 
310
        new_(tm_Reader, MSTransactionThread(RETAIN(tm_Log)));
 
311
        release_(log);
 
312
 
 
313
        tm_Reader->start();
 
314
        exit_();
 
315
}
 
316
 
 
317
void MSTransactionManager::startUp()
 
318
{
 
319
        CSPath *path = NULL;
 
320
        enter_();
 
321
        
 
322
        // Do not start the reader if the pbms dir doesn't exist.
 
323
        path = CSPath::newPath(ms_my_get_mysql_home_path(), "pbms");
 
324
        push_(path);
 
325
        if (path->exists()) {
 
326
                startUpReader();
 
327
        }
 
328
        release_(path);
 
329
        
 
330
        exit_();
 
331
}
 
332
 
 
333
void MSTransactionManager::shutDown()
 
334
{
 
335
        if (tm_Reader) {
 
336
                tm_Reader->stop();
 
337
                tm_Reader->release();
 
338
                tm_Reader = NULL;
 
339
        }
 
340
        if (tm_Log) {
 
341
                tm_Log->release();
 
342
                tm_Log = NULL;
 
343
        }
 
344
}
 
345
 
 
346
void MSTransactionManager::flush()
 
347
{
 
348
        if (tm_Reader) 
 
349
                tm_Reader->flush();
 
350
}
 
351
 
 
352
void MSTransactionManager::suspend(bool do_flush)
 
353
{
 
354
        enter_();
 
355
        
 
356
        if (do_flush) 
 
357
                flush();
 
358
                
 
359
        if (tm_Reader) {
 
360
                tm_Reader->suspend();
 
361
        }       
 
362
        exit_();
 
363
}
 
364
 
 
365
void MSTransactionManager::resume()
 
366
{
 
367
        enter_();
 
368
        if (tm_Reader) {
 
369
                tm_Reader->resume();
 
370
        }       
 
371
        exit_();
 
372
}
 
373
 
 
374
void MSTransactionManager::commit()
 
375
{
 
376
        enter_();
 
377
        
 
378
        if (!tm_Log)
 
379
                startUpReader();
 
380
                
 
381
        self->myStmtCount = 0;
 
382
        self->myStartStmt = 0;
 
383
        tm_Log->txn_LogTransaction(MS_CommitTxn);
 
384
        
 
385
 
 
386
        exit_();
 
387
}
 
388
 
 
389
void MSTransactionManager::rollback()
 
390
{
 
391
        enter_();
 
392
        
 
393
        if (!tm_Log)
 
394
                startUpReader();
 
395
                
 
396
        self->myStmtCount = 0;
 
397
        self->myStartStmt = 0;
 
398
        tm_Log->txn_LogTransaction(MS_RollBackTxn);
 
399
 
 
400
        exit_();
 
401
}
 
402
 
 
403
void MSTransactionManager::rollbackTo(uint32_t position)
 
404
{
 
405
        enter_();
 
406
 
 
407
        ASSERT(self->myStmtCount > position);
 
408
        
 
409
        if (!tm_Log)
 
410
                startUpReader();
 
411
        tm_Log->txn_LogPartialRollBack(position);
 
412
        
 
413
        exit_();
 
414
}
 
415
 
 
416
void MSTransactionManager::dropDatabase(uint32_t db_id)
 
417
{
 
418
        enter_();
 
419
 
 
420
        if (!tm_Log)
 
421
                startUpReader();
 
422
        
 
423
        tm_Log->txn_dropDatabase(db_id);
 
424
 
 
425
        exit_();
 
426
}
 
427
 
 
428
void MSTransactionManager::logTransaction(bool ref, uint32_t db_id, uint32_t tab_id, uint64_t blob_id, uint64_t blob_ref_id)
 
429
{
 
430
        bool autocommit = false;
 
431
        enter_();
 
432
        
 
433
        if (!tm_Log)
 
434
                startUpReader();
 
435
 
 
436
        if (!self->myTID) {
 
437
                autocommit = ms_is_autocommit();
 
438
                if (!autocommit)
 
439
                        pbms_take_part_in_transaction(ms_my_get_thread());
 
440
                        
 
441
                self->myIsAutoCommit = autocommit;
 
442
        }
 
443
        
 
444
        // PBMS always explicitly commits
 
445
        tm_Log->txn_LogTransaction((ref)?MS_ReferenceTxn:MS_DereferenceTxn, false /*autocommit*/, db_id, tab_id, blob_id, blob_ref_id);
 
446
 
 
447
        self->myStmtCount++;
 
448
        
 
449
        exit_();
 
450
}
 
451
 
 
452