← Back to branch summary

~drizzle-trunk/drizzle/development

« back to all changes in this revision

Viewing changes to drizzled/utf8/utf8.h

  • Committer: Monty Taylor
  • Date: 2008-10-16 06:32:59 UTC
  • mfrom: (518 drizzle)
  • mto: (511.1.5 codestyle)
  • mto: This revision was merged to the branch mainline in revision 521.
  • Revision ID: monty@inaugust.com-20081016063259-fwbqogq7lnezct0l
Merged with trunk.

Show diffs side-by-side

added added

removed removed

Lines of Context:
drizzled/utf8/utf8.h
1
 
/* - mode: c; c-basic-offset: 2; indent-tabs-mode: nil; -*-
2
 
   vim:expandtab:shiftwidth=2:tabstop=2:smarttab:
3
 
 
4
 
  Copyright (C) 2010 Monty Taylor
5
 
 
6
 
  This program is free software; you can redistribute it and/or modify
7
 
  it under the terms of the GNU General Public License as published by
8
 
  the Free Software Foundation; version 2 of the License.
9
 
 
10
 
  This program is distributed in the hope that it will be useful,
11
 
  but WITHOUT ANY WARRANTY; without even the implied warranty of
12
 
  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13
 
  GNU General Public License for more details.
14
 
 
15
 
  You should have received a copy of the GNU General Public License
16
 
  along with this program; if not, write to the Free Software
17
 
  Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18
 
 
19
 
  Copyright (C) 1995-2006 International Business Machines Corporation and others
20
 
 
21
 
  All rights reserved.
22
 
 
23
 
  Permission is hereby granted, free of charge, to any person obtaining a copy
24
 
  of this software and associated documentation files (the "Software"),
25
 
  to deal in the Software without restriction, including without limitation
26
 
  the rights to use, copy, modify, merge, publish, distribute, and/or sell
27
 
  copies of the Software, and to permit persons
28
 
  to whom the Software is furnished to do so, provided that the above
29
 
  copyright notice(s) and this permission notice appear in all copies
30
 
  of the Software and that both the above copyright notice(s) and this
31
 
  permission notice appear in supporting documentation.
32
 
 
33
 
  THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
34
 
  IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
35
 
  FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT OF THIRD PARTY RIGHTS.
36
 
  IN NO EVENT SHALL THE COPYRIGHT HOLDER OR HOLDERS INCLUDED IN THIS NOTICE BE
37
 
  LIABLE FOR ANY CLAIM, OR ANY SPECIAL INDIRECT OR CONSEQUENTIAL DAMAGES, OR
38
 
  ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER
39
 
  IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF
40
 
  OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.
41
 
 
42
 
  Except as contained in this notice, the name of a copyright holder shall not
43
 
  be used in advertising or otherwise to promote the sale, use or other dealings
44
 
  in this Software without prior written authorization of the copyright holder.
45
 
*/
46
 
 
47
 
#ifndef DRIZZLED_UTF8_UTF8_H
48
 
#define DRIZZLED_UTF8_UTF8_H
49
 
 
50
 
#include <string>
51
 
 
52
 
#include <drizzled/utf8/checked.h>
53
 
#include <drizzled/utf8/unchecked.h>
54
 
 
55
 
namespace drizzled
56
 
{
57
 
namespace utf8
58
 
{
59
 
 
60
 
/**
61
 
 * The maximum number of UTF-8 code units (bytes) per Unicode code point (U+0000..U+10ffff).
62
 
 */
63
 
static const int MAX_LENGTH= 4;
64
 
 
65
 
/**
66
 
 * Does this code unit (byte) encode a code point by itself (US-ASCII 0..0x7f)?
67
 
 * @param c 8-bit code unit (byte)
68
 
 * @return TRUE or FALSE
69
 
 */
70
 
template <class T>
71
 
bool is_single(T c)
72
 
{
73
 
  return (static_cast<uint8_t>(c) & 0x80) == 0;
74
 
}
75
 
 
76
 
/**
77
 
 * How many code units (bytes) are used for the UTF-8 encoding
78
 
 * of this Unicode code point?
79
 
 * @param c 32-bit code point
80
 
 * @return 1..4, or 0 if c is a surrogate or not a Unicode code point
81
 
 */
82
 
static inline int codepoint_length(uint32_t c)
83
 
{
84
 
  return (c <= 0x7f ? 1 :
85
 
          (c <= 0x7ff ? 2 :
86
 
           (c <= 0xd7ff ? 3 :
87
 
            (c <= 0xdfff || c>0x10ffff ? 0 :
88
 
             (c <= 0xffff ? 3 : 4)))));
89
 
}
90
 
 
91
 
/**
92
 
 * How many bytes are used for the UTF-8 encoding of the codepoint of which
93
 
 * this is the first byte?
94
 
 * @param c 8-bit leading byte
95
 
 * @return 1..4, or 0 if c is a surrogate or not a Unicode code point
96
 
 */ 
97
 
template <class T>
98
 
int sequence_length(T c)
99
 
{
100
 
  return (static_cast<uint8_t>(c) < 0x80 ? 1 :
101
 
          ((static_cast<uint8_t>(c) >> 5) == 0x6 ? 2 :
102
 
           ((static_cast<uint8_t>(c) >> 4) == 0xe ? 3 :
103
 
            ((static_cast<uint8_t>(c) >> 3) == 0x1e ? 4 : 0))));
104
 
}
105
 
 
106
 
 
107
 
/**
108
 
 * How many logical characters does the given UTF-8 string occupy? Useful when
109
 
 * needing to calculate char length rather than byte length of a string
110
 
 * @param in_string string to measure
111
 
 * @return length in characters of given string
112
 
 */
113
 
static inline uint32_t char_length(const std::string &in_string)
114
 
{
115
 
  uint32_t length= 0;
116
 
  int seq_length= 0;
117
 
  std::string::const_iterator iter= in_string.begin();
118
 
  while (iter < in_string.end())
119
 
  {
120
 
    length++;
121
 
    seq_length= sequence_length(*iter);
122
 
    iter += (seq_length > 0) ? seq_length : 1;
123
 
  }
124
 
  return length;
125
 
}
126
 
 
127
 
/**
128
 
 * How many logical characters does the given UTF-8 string occupy? Useful when
129
 
 * needing to calculate char length rather than byte length of a string
130
 
 * @param in_string string to measure
131
 
 * @return length in characters of given string
132
 
 */
133
 
static inline uint32_t char_length(const char *in_string)
134
 
{
135
 
  const std::string process_string(in_string);
136
 
  return char_length(process_string);
137
 
}
138
 
 
139
 
 
140
 
} /* namespace utf8 */
141
 
} /* namespace drizzled */
142
 
 
143
 
#endif /* DRIZZLED_UTF8_UTF8_H */