← Back to branch summary

~unity-2d-team/unity-2d/Shell-MultiMonitor

« back to all changes in this revision

Viewing changes to grackle/model.py

  • Committer: Aaron Bentley
  • Date: 2012-01-10 11:16:56 UTC
  • Revision ID: aaron@canonical.com-20120110111656-9daoyj766z8r184a
Add test framework.

Show diffs side-by-side

added added

removed removed

Lines of Context:
grackle/model.py
1
 
# Copyright (c) 2012 Canonical Ltd
2
 
#
3
 
# This program is free software: you can redistribute it and/or modify
4
 
# it under the terms of the GNU Affero General Public License as published by
5
 
# the Free Software Foundation, either version 3 of the License, or
6
 
# (at your option) any later version.
7
 
#
8
 
# This program is distributed in the hope that it will be useful,
9
 
# but WITHOUT ANY WARRANTY; without even the implied warranty of
10
 
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11
 
# GNU Affero General Public License for more details.
12
 
#
13
 
# You should have received a copy of the GNU Affero General Public
14
 
# License along with this program. If not, see
15
 
# <http://www.gnu.org/licenses/>.
16
 
 
17
 
import datetime
18
 
import dateutil.tz
19
 
import email.parser
20
 
from email.utils import parsedate_tz
21
 
import logging
22
 
import uuid
23
 
 
24
 
import pycassa
25
 
from pycassa.system_manager import (
26
 
    LEXICAL_UUID_TYPE,
27
 
    SystemManager,
28
 
    TIME_UUID_TYPE,
29
 
    )
30
 
 
31
 
from grackle.cassandra import workaround_1779
32
 
 
33
 
 
34
 
def create_schema(host, keyspace, clobber=False, create_keyspace=False):
35
 
    mgr = SystemManager(host)
36
 
 
37
 
    if create_keyspace:
38
 
        mgr.create_keyspace(keyspace, replication_factor=1)
39
 
 
40
 
    if clobber:
41
 
        for cf in mgr.get_keyspace_column_families(keyspace):
42
 
            mgr.drop_column_family(keyspace, cf)
43
 
 
44
 
    try:
45
 
        workaround_1779(
46
 
            mgr.create_column_family, keyspace, 'message',
47
 
            key_validation_class=LEXICAL_UUID_TYPE)
48
 
        workaround_1779(
49
 
            mgr.create_column_family, keyspace, 'archive_message',
50
 
            comparator_type=TIME_UUID_TYPE,
51
 
            default_validation_class=LEXICAL_UUID_TYPE)
52
 
        pass
53
 
    finally:
54
 
        mgr.close()
55
 
 
56
 
 
57
 
def _parse_message(message):
58
 
    """Get a date and dict of an RFC822 message."""
59
 
    parsed = email.parser.Parser().parsestr(message)
60
 
    message_dict = {}
61
 
 
62
 
    for key in ('from', 'to', 'subject', 'message-id'):
63
 
        value = parsed.get(key, None)
64
 
        if value is not None:
65
 
            message_dict[key] = value
66
 
 
67
 
    date = parsed.get('date')
68
 
    if date is not None:
69
 
        try:
70
 
            pdate = parsedate_tz(date)
71
 
            date = datetime.datetime(
72
 
                *pdate[:6],
73
 
                tzinfo=dateutil.tz.tzoffset('', pdate[9]))
74
 
        except ValueError:
75
 
            pass
76
 
    message_dict['date'] = date.isoformat() if date is not None else None
77
 
 
78
 
    return date, message_dict
79
 
 
80
 
 
81
 
class CassandraConnection(object):
82
 
 
83
 
    def __init__(self, keyspace, host):
84
 
        self._keyspace = keyspace
85
 
        self._host = host
86
 
        self._connection = self._connect()
87
 
        self.messages = self._column_family('message')
88
 
        self.archive_messages = self._column_family('archive_message')
89
 
 
90
 
    def _connect(self):
91
 
        return pycassa.connect(self._keyspace, self._host)
92
 
 
93
 
    def _column_family(self, name):
94
 
        return pycassa.ColumnFamily(self._connection, name)
95
 
 
96
 
    def add_message(self, archive_uuid, message):
97
 
        message_uuid = uuid.uuid4()
98
 
        message_date, message_dict = _parse_message(message)
99
 
        message_dict['content'] = message
100
 
        message_dict['date_created'] = (
101
 
            datetime.datetime.utcnow().isoformat() + 'Z')
102
 
        self.messages.insert(message_uuid, message_dict)
103
 
        self.archive_messages.insert(
104
 
            archive_uuid,
105
 
            {message_date.astimezone(dateutil.tz.tzutc()): message_uuid})
106
 
        logging.debug(
107
 
            'Imported %s into %s'
108
 
            % (message_dict.get('message-id', None), archive_uuid))
109
 
        return message_uuid
110
 
 
111
 
    def _format_message(self, message):
112
 
        return {
113
 
            'date': message.get('date'),
114
 
            'from': message.get('from'),
115
 
            'subject': message.get('subject'),
116
 
            'message-id': message.get('message-id'),
117
 
            }
118
 
 
119
 
    def get_messages(self, archive_uuid, order, count, memo):
120
 
        if order in ("date", "-date"):
121
 
            reversed = order[0] == '-'
122
 
        else:
123
 
            raise AssertionError("Unsupported order.")
124
 
        if memo != '':
125
 
            memo = uuid.UUID(memo)
126
 
        # Get up to n+1 messages from the memo: the last item of the
127
 
        # previous batch (because that's where the memo starts) + this
128
 
        # batch.
129
 
        pairs = self.archive_messages.get(
130
 
            archive_uuid, column_count=count + 1,
131
 
            column_start=memo, column_reversed=reversed).items()
132
 
 
133
 
        if memo and len(pairs) and pairs[0][0] <= memo:
134
 
            pairs = pairs[1:]
135
 
        elif len(pairs) > count:
136
 
            pairs = pairs[:-1]
137
 
 
138
 
        if len(pairs) == 0:
139
 
            return (None, [], None)
140
 
 
141
 
        assert 0 < len(pairs) <= count
142
 
 
143
 
        ids = [v for k, v in pairs]
144
 
        messages = self.messages.multiget(
145
 
            ids, columns=['date', 'from', 'subject', 'message-id'])
146
 
 
147
 
        return (
148
 
            str(pairs[0][0]),
149
 
            [self._format_message(messages[id]) for id in ids],
150
 
            str(pairs[-1][0]),
151
 
            )