~azzar1/unity/add-show-desktop-key

« back to all changes in this revision

Viewing changes to ivle/makeuser.py

  • Committer: William Grant
  • Date: 2009-02-25 23:04:11 UTC
  • Revision ID: grantw@unimelb.edu.au-20090225230411-lbdyl32ir0m3d59b
Make all of the services executable.

Show diffs side-by-side

added added

removed removed

Lines of Context:
1
1
# IVLE - Informatics Virtual Learning Environment
2
 
# Copyright (C) 2007-2009 The University of Melbourne
 
2
# Copyright (C) 2007-2008 The University of Melbourne
3
3
#
4
4
# This program is free software; you can redistribute it and/or modify
5
5
# it under the terms of the GNU General Public License as published by
15
15
# along with this program; if not, write to the Free Software
16
16
# Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17
17
 
18
 
"""User and group filesystem management helpers."""
19
 
 
20
 
import hashlib
 
18
# Module: MakeUser
 
19
# Author: Matt Giuca
 
20
# Date:   1/2/2008
 
21
 
 
22
# Allows creation of users. This sets up the following:
 
23
# * User's jail and home directory within the jail.
 
24
# * Subversion repository (TODO)
 
25
# * Check out Subversion workspace into jail (TODO)
 
26
# * Database details for user
 
27
# * Unix user account
 
28
 
 
29
# TODO: Sanitize login name and other fields.
 
30
# Users must not be called "temp" or "template".
 
31
 
 
32
# TODO: When creating a new home directory, chown it to its owner
 
33
 
 
34
# TODO: In chown_to_webserver:
 
35
# Do not call os.system("chown www-data") - use Python lib
 
36
# and use the web server uid given in conf. (Several places).
 
37
 
 
38
import md5
21
39
import os
22
40
import stat
23
41
import shutil
24
42
import time
25
43
import uuid
26
44
import warnings
 
45
import filecmp
27
46
import logging
28
 
import subprocess
29
 
 
30
 
from storm.expr import Select, Max
31
 
 
32
 
import ivle.config
33
 
from ivle.database import (User, ProjectGroup, Assessed, ProjectSubmission,
34
 
        Project, ProjectSet, Offering, Enrolment, Subject, Semester)
 
47
import ivle.conf
 
48
import ivle.pulldown_subj
 
49
 
 
50
from ivle.database import ProjectGroup
35
51
 
36
52
def chown_to_webserver(filename):
37
 
    """chown a directory and its contents to the web server.
38
 
 
39
 
    Recursively chowns a file or directory so the web server user owns it.
 
53
    """
 
54
    Chowns a file so the web server user owns it.
 
55
    (This is useful in setting up Subversion conf files).
40
56
    Assumes root.
41
57
    """
42
 
    subprocess.call(['chown', '-R', 'www-data:www-data', filename])
 
58
    try:
 
59
        os.system("chown -R www-data:www-data %s" % filename)
 
60
    except:
 
61
        pass
43
62
 
44
63
def make_svn_repo(path, throw_on_error=True):
45
 
    """Create a Subversion repository at the given path."""
 
64
    """Create a Subversion repository at the given path.
 
65
    """
46
66
    try:
47
 
        res = subprocess.call(['svnadmin', 'create', path])
 
67
        res = os.system("svnadmin create '%s'" % path)
48
68
        if res != 0 and throw_on_error:
49
69
            raise Exception("Cannot create repository: %s" % path)
50
70
    except Exception, exc:
54
74
 
55
75
    chown_to_webserver(path)
56
76
 
57
 
def rebuild_svn_config(store, config):
 
77
def rebuild_svn_config(store):
58
78
    """Build the complete SVN configuration file.
59
 
 
60
 
    @param config: An ivle.config.Config object.
61
79
    """
62
 
    users = store.find(User)
63
 
    conf_name = config['paths']['svn']['conf']
64
 
    temp_name = conf_name + ".new"
65
 
    f = open(temp_name, "w")
66
 
    f.write("""\
67
 
# IVLE SVN repository authorisation configuration
68
 
# Generated: %(time)s
69
 
""" % {'time': time.asctime()})
70
 
 
 
80
    users = store.find(ivle.database.User)
 
81
    groups = {}
 
82
    # TODO: Populate groups with per-offering tutors/lecturers/etc.
 
83
    f = open(ivle.conf.svn_conf + ".new", "w")
 
84
    f.write("# IVLE SVN Repositories Configuration\n")
 
85
    f.write("# Auto-generated on %s\n" % time.asctime())
 
86
    f.write("\n")
 
87
    f.write("[groups]\n")
 
88
    for (g,ls) in groups.iteritems():
 
89
        f.write("%s = %s\n" % (g, ",".join(ls)))
 
90
    f.write("\n")
71
91
    for u in users:
72
 
        f.write("""
73
 
[%(login)s:/]
74
 
%(login)s = rw
75
 
""" % {'login': u.login})
76
 
 
77
 
    # Now we need to grant offering tutors and lecturers access to the latest
78
 
    # submissions in their offerings. There are much prettier ways to do this,
79
 
    # but a lot of browser requests call this function, so it needs to be
80
 
    # fast. We can grab all of the paths needing authorisation directives with
81
 
    # a single query, and we cache the list of viewers for each offering.
82
 
    offering_viewers_cache = {}
83
 
    for (login, psid, pspath, offeringid) in store.find(
84
 
        (User.login, ProjectSubmission.id, ProjectSubmission.path,
85
 
         Offering.id),
86
 
            Assessed.id == ProjectSubmission.assessed_id,
87
 
            User.id == Assessed.user_id,
88
 
            Project.id == Assessed.project_id,
89
 
            ProjectSet.id == Project.project_set_id,
90
 
            Offering.id == ProjectSet.id,
91
 
            ProjectSubmission.date_submitted == Select(
92
 
                    Max(ProjectSubmission.date_submitted),
93
 
                    ProjectSubmission.assessed_id == Assessed.id,
94
 
                    tables=ProjectSubmission
95
 
            )
96
 
        ):
97
 
 
98
 
        # Do we already have the list of logins authorised for this offering
99
 
        # cached? If not, get it.
100
 
        if offeringid not in offering_viewers_cache:
101
 
            offering_viewers_cache[offeringid] = list(store.find(
102
 
                    User.login,
103
 
                    User.id == Enrolment.user_id,
104
 
                    Enrolment.offering_id == offeringid,
105
 
                    Enrolment.role.is_in((u'tutor', u'lecturer'))
106
 
                )
107
 
            )
108
 
 
109
 
        f.write("""
110
 
# Submission %(id)d
111
 
[%(login)s:%(path)s]
112
 
""" % {'login': login, 'id': psid, 'path': pspath})
113
 
 
114
 
        for viewer_login in offering_viewers_cache[offeringid]:
115
 
            # We don't want to override the owner's write privilege,
116
 
            # so we don't add them to the read-only ACL.
117
 
            if login != viewer_login:
118
 
                f.write("%s = r\n" % viewer_login)
119
 
 
 
92
        f.write("[%s:/]\n" % u.login)
 
93
        f.write("%s = rw\n" % u.login)
 
94
        #f.write("@tutor = r\n")
 
95
        #f.write("@lecturer = rw\n")
 
96
        #f.write("@admin = rw\n")
 
97
        f.write("\n")
120
98
    f.close()
121
 
    os.rename(temp_name, conf_name)
122
 
    chown_to_webserver(conf_name)
 
99
    os.rename(ivle.conf.svn_conf + ".new", ivle.conf.svn_conf)
 
100
    chown_to_webserver(ivle.conf.svn_conf)
123
101
 
124
 
def rebuild_svn_group_config(store, config):
 
102
def rebuild_svn_group_config(store):
125
103
    """Build the complete SVN configuration file for groups
126
 
 
127
 
    @param config: An ivle.config.Config object.
128
104
    """
129
 
    conf_name = config['paths']['svn']['group_conf']
130
 
    temp_name = conf_name + ".new"
131
 
    f = open(temp_name, "w")
132
 
 
133
 
    f.write("""\
134
 
# IVLE SVN group repository authorisation configuration
135
 
# Generated: %(time)s
136
 
 
137
 
""" % {'time': time.asctime()})
138
 
 
139
 
    group_members_cache = {}
 
105
    f = open(ivle.conf.svn_group_conf + ".new", "w")
 
106
    f.write("# IVLE SVN Group Repositories Configuration\n")
 
107
    f.write("# Auto-generated on %s\n" % time.asctime())
 
108
    f.write("\n")
140
109
    for group in store.find(ProjectGroup):
141
110
        offering = group.project_set.offering
142
111
        reponame = "_".join([offering.subject.short_name,
143
112
                             offering.semester.year,
144
113
                             offering.semester.semester,
145
114
                             group.name])
146
 
 
147
 
        f.write("[%s:/]\n" % reponame)
148
 
        if group.id not in group_members_cache:
149
 
            group_members_cache[group.id] = set()
 
115
        f.write("[%s:/]\n"%reponame)
150
116
        for user in group.members:
151
 
            group_members_cache[group.id].add(user.login)
152
117
            f.write("%s = rw\n" % user.login)
153
118
        f.write("\n")
154
 
 
155
 
    # Now we need to grant offering tutors and lecturers access to the latest
156
 
    # submissions in their offerings. There are much prettier ways to do this,
157
 
    # but a lot of browser requests call this function, so it needs to be
158
 
    # fast. We can grab all of the paths needing authorisation directives with
159
 
    # a single query, and we cache the list of viewers for each offering.
160
 
    offering_viewers_cache = {}
161
 
    for (ssn, year, sem, name, psid, pspath, gid, offeringid) in store.find(
162
 
        (Subject.short_name, Semester.year, Semester.semester,
163
 
         ProjectGroup.name, ProjectSubmission.id, ProjectSubmission.path,
164
 
         ProjectGroup.id, Offering.id),
165
 
            Assessed.id == ProjectSubmission.assessed_id,
166
 
            ProjectGroup.id == Assessed.project_group_id,
167
 
            Project.id == Assessed.project_id,
168
 
            ProjectSet.id == Project.project_set_id,
169
 
            Offering.id == ProjectSet.offering_id,
170
 
            Subject.id == Offering.subject_id,
171
 
            Semester.id == Offering.semester_id,
172
 
            ProjectSubmission.date_submitted == Select(
173
 
                    Max(ProjectSubmission.date_submitted),
174
 
                    ProjectSubmission.assessed_id == Assessed.id,
175
 
                    tables=ProjectSubmission
176
 
            )
177
 
        ):
178
 
 
179
 
        reponame = "_".join([ssn, year, sem, name])
180
 
 
181
 
        # Do we already have the list of logins authorised for this offering
182
 
        # cached? If not, get it.
183
 
        if offeringid not in offering_viewers_cache:
184
 
            offering_viewers_cache[offeringid] = list(store.find(
185
 
                    User.login,
186
 
                    User.id == Enrolment.user_id,
187
 
                    Enrolment.offering_id == offeringid,
188
 
                    Enrolment.role.is_in((u'tutor', u'lecturer'))
189
 
                )
190
 
            )
191
 
 
192
 
        f.write("""
193
 
# Submission %(id)d
194
 
[%(repo)s:%(path)s]
195
 
""" % {'repo': reponame, 'id': psid, 'path': pspath})
196
 
 
197
 
        for viewer_login in offering_viewers_cache[offeringid]:
198
 
            # Skip existing group members, or they can't write to it any more.
199
 
            if viewer_login not in group_members_cache[gid]:
200
 
                f.write("%s = r\n" % viewer_login)
201
 
 
202
119
    f.close()
203
 
    os.rename(temp_name, conf_name)
204
 
    chown_to_webserver(conf_name)
205
 
 
206
 
def make_svn_auth(store, login, config, throw_on_error=True):
207
 
    """Create a Subversion password for a user.
208
 
 
209
 
    Generates a new random Subversion password, and assigns it to the user.
210
 
    The password is added to Apache's Subversion authentication file.
 
120
    os.rename(ivle.conf.svn_group_conf + ".new", ivle.conf.svn_group_conf)
 
121
    chown_to_webserver(ivle.conf.svn_group_conf)
 
122
 
 
123
def make_svn_auth(store, login, throw_on_error=True):
 
124
    """Setup svn authentication for the given user.
 
125
       Uses the given DB store object. Does not commit to the db.
211
126
    """
212
 
    # filename is, eg, /var/lib/ivle/svn/ivle.auth
213
 
    filename = config['paths']['svn']['auth_ivle']
214
 
    if os.path.exists(filename):
 
127
    passwd = md5.new(uuid.uuid4().bytes).digest().encode('hex')
 
128
    if os.path.exists(ivle.conf.svn_auth_ivle):
215
129
        create = ""
216
130
    else:
217
131
        create = "c"
218
132
 
219
 
    user = User.get_by_login(store, login)
220
 
 
221
 
    if user.svn_pass is None:
222
 
        passwd = hashlib.md5(uuid.uuid4().bytes).hexdigest()
223
 
        user.svn_pass = unicode(passwd)
224
 
 
225
 
    res = subprocess.call(['htpasswd', '-%smb' % create,
226
 
                           filename, login, user.svn_pass])
 
133
    user = ivle.database.User.get_by_login(store, login)
 
134
    user.svn_pass = unicode(passwd)
 
135
 
 
136
    res = os.system("htpasswd -%smb %s %s %s" % (create,
 
137
                                              ivle.conf.svn_auth_ivle,
 
138
                                              login, passwd))
227
139
    if res != 0 and throw_on_error:
228
140
        raise Exception("Unable to create ivle-auth for %s" % login)
229
141
 
230
142
    # Make sure the file is owned by the web server
231
143
    if create == "c":
232
 
        chown_to_webserver(filename)
233
 
 
234
 
    return user.svn_pass
235
 
 
236
 
def make_jail(user, config, force=True):
237
 
    """Create or update a user's jail.
238
 
 
239
 
    Only the user-specific parts of the jail are created here - everything
240
 
    else is expected to be part of another aufs branch.
 
144
        chown_to_webserver(ivle.conf.svn_auth_ivle)
 
145
 
 
146
    return passwd
 
147
 
 
148
def generate_manifest(basedir, targetdir, parent=''):
 
149
    """ From a basedir and a targetdir work out which files are missing or out 
 
150
    of date and need to be added/updated and which files are redundant and need 
 
151
    to be removed.
 
152
    
 
153
    parent: This is used for the recursive call to track the relative paths 
 
154
    that we have decended.
 
155
    """
 
156
    
 
157
    cmp = filecmp.dircmp(basedir, targetdir)
 
158
 
 
159
    # Add all new files and files that have changed
 
160
    to_add = [os.path.join(parent,x) for x in (cmp.left_only + cmp.diff_files)]
 
161
 
 
162
    # Remove files that are redundant
 
163
    to_remove = [os.path.join(parent,x) for x in cmp.right_only]
 
164
    
 
165
    # Recurse
 
166
    for d in cmp.common_dirs:
 
167
        newbasedir = os.path.join(basedir, d)
 
168
        newtargetdir = os.path.join(targetdir, d)
 
169
        newparent = os.path.join(parent, d)
 
170
        (sadd,sremove) = generate_manifest(newbasedir, newtargetdir, newparent)
 
171
        to_add += sadd
 
172
        to_remove += sremove
 
173
 
 
174
    return (to_add, to_remove)
 
175
 
 
176
 
 
177
def make_jail(user, force=True):
 
178
    """Creates a new user's jail space, in the jail directory as configured in
 
179
    conf.py.
 
180
 
 
181
    This only creates things within /home - everything else is expected to be
 
182
    part of another UnionFS branch.
241
183
 
242
184
    Returns the path to the user's home directory.
243
185
 
244
186
    Chowns the user's directory within the jail to the given UID.
245
187
 
246
 
    @param force: If False, raise an exception if the user already has a jail.
247
 
                  If True (default), rebuild the jail preserving /home.
 
188
    force: If false, exception if jail already exists for this user.
 
189
    If true (default), overwrites it, but preserves home directory.
248
190
    """
249
191
    # MUST run as root or some of this may fail
250
192
    if os.getuid() != 0:
251
193
        raise Exception("Must run make_jail as root")
252
194
    
253
195
    # tempdir is for putting backup homes in
254
 
    jail_src_base = config['paths']['jails']['src']
255
 
    tempdir = os.path.join(jail_src_base, '__temp__')
 
196
    tempdir = os.path.join(ivle.conf.jail_src_base, '__temp__')
256
197
    if not os.path.exists(tempdir):
257
198
        os.makedirs(tempdir)
258
199
    elif not os.path.isdir(tempdir):
259
200
        os.unlink(tempdir)
260
201
        os.mkdir(tempdir)
261
 
    userdir = os.path.join(jail_src_base, user.login)
 
202
    userdir = os.path.join(ivle.conf.jail_src_base, user.login)
262
203
    homedir = os.path.join(userdir, 'home')
263
 
    tmpdir = os.path.join(userdir, 'tmp')
264
204
    userhomedir = os.path.join(homedir, user.login)   # Return value
265
205
 
266
206
    if os.path.exists(userdir):
269
209
        # User jail already exists. Blow it away but preserve their home
270
210
        # directory. It should be all that is there anyway, but you never
271
211
        # know!
272
 
        # Ignore warnings about the use of tempnam
 
212
        # Ignore warnings about the use of tmpnam
273
213
        warnings.simplefilter('ignore')
274
214
        homebackup = os.tempnam(tempdir)
275
215
        warnings.resetwarnings()
276
 
        # Back up the /home directory, delete the entire jail, recreate the
277
 
        # jail directory tree, then copy the /home back
278
 
        # NOTE that shutil.move changed in Python 2.6, it now moves a
279
 
        # directory INTO the target (like `mv`), which it didn't use to do.
280
 
        # This code works regardless.
281
 
        shutil.move(userhomedir, homebackup)
 
216
        # Note: shutil.move does not behave like "mv" - it does not put a file
 
217
        # into a directory if it already exists, just fails. Therefore it is
 
218
        # not susceptible to tmpnam symlink attack.
 
219
        shutil.move(homedir, homebackup)
282
220
        shutil.rmtree(userdir)
283
221
        os.makedirs(homedir)
284
 
        shutil.move(homebackup, userhomedir)
 
222
        shutil.move(homebackup, homedir)
285
223
        # Change the ownership of all the files to the right unixid
286
224
        logging.debug("chown %s's home directory files to uid %d"
287
225
            %(user.login, user.unixid))
296
234
        # Chmod to rwxr-xr-x (755)
297
235
        os.chmod(userhomedir, 0755)
298
236
 
299
 
    make_ivle_conf(user.login, userdir, user.svn_pass, config)
300
 
    make_etc_passwd(user.login, userdir, config['paths']['jails']['template'],
301
 
                    user.unixid)
302
 
    os.makedirs(tmpdir)
303
 
    os.chmod(tmpdir, 01777)
 
237
    make_conf_py(user.login, userdir, user.svn_pass)
 
238
    make_etc_passwd(user.login, userdir, ivle.conf.jail_system, user.unixid)
304
239
 
305
240
    return userhomedir
306
241
 
307
 
def make_ivle_conf(username, user_jail_dir, svn_pass, sys_config):
308
 
    """Generate an ivle.conf for a user's jail.
309
 
 
 
242
def make_conf_py(username, user_jail_dir, svn_pass):
 
243
    """
310
244
    Creates (overwriting any existing file, and creating directories) a
311
 
    file /etc/ivle/ivle.conf in a given user's jail.
312
 
 
313
 
    @param username: Username.
314
 
    @param user_jail_dir: User's jail dir, ie. ['jails']['src'] + username
315
 
    @param svn_pass: User's SVN password.
316
 
    @param sys_config: An ivle.config.Config object (the system-wide config).
 
245
    file ${python_site_packages}/ivle/conf/conf.py in a given user's jail.
 
246
    username: Username.
 
247
    user_jail_dir: User's jail dir, ie. ivle.conf.jail_base + username
 
248
    svn_pass: User's SVN password.
317
249
    """
318
 
    conf_path = os.path.join(user_jail_dir, "home/.ivle.conf")
319
 
    if not os.path.exists(os.path.dirname(conf_path)):
320
 
        os.makedirs(os.path.dirname(conf_path))
 
250
    conf_path = os.path.join(user_jail_dir,
 
251
            ivle.conf.python_site_packages[1:], "ivle/conf/conf.py")
 
252
    os.makedirs(os.path.dirname(conf_path))
321
253
 
322
254
    # In the "in-jail" version of conf, we don't need MOST of the details
323
255
    # (it would be a security risk to have them here).
324
 
    # So we just write root_dir.
325
 
    conf_obj = ivle.config.Config(blank=True)
326
 
    conf_obj.filename = conf_path
327
 
    conf_obj['urls']['root'] = sys_config['urls']['root']
328
 
    conf_obj['urls']['public_host'] = sys_config['urls']['public_host']
329
 
    conf_obj['urls']['svn_addr'] = sys_config['urls']['svn_addr']
330
 
    conf_obj['user_info']['login'] = username
331
 
    conf_obj['user_info']['svn_pass'] = svn_pass
332
 
    conf_obj.write()
 
256
    # So we just write root_dir, and jail_base is "/".
 
257
    # (jail_base being "/" means "jail-relative" paths are relative to "/"
 
258
    # when inside the jail.)
 
259
 
 
260
    # XXX: jail_base is wrong and shouldn't be here. Unfortunately, jail code
 
261
    #      uses ivle.studpath.url_to_{local,jailpaths}, both of which use
 
262
    #      jail_base. Note that they don't use the bits of the return value
 
263
    #      that depend on jail_base, so it can be any string.
 
264
    conf_file = open(conf_path, "w")
 
265
    conf_file.write("""# IVLE jail configuration
 
266
 
 
267
# In URL space, where in the site is IVLE located. (All URLs will be prefixed
 
268
# with this).
 
269
# eg. "/" or "/ivle".
 
270
root_dir = %(root_dir)r
 
271
 
 
272
# This value is not relevant inside the jail, but must remain for now. See
 
273
# the XXX in ivle.makeuser.make_conf_py.
 
274
jail_base = '/'
 
275
 
 
276
# The hostname for serving publicly accessible pages
 
277
public_host = %(public_host)r
 
278
 
 
279
# The URL under which the Subversion repositories are located.
 
280
svn_addr = %(svn_addr)r
 
281
 
 
282
# The login name for the owner of the jail
 
283
login = %(username)r
 
284
 
 
285
# The subversion-only password for the owner of the jail
 
286
svn_pass = %(svn_pass)r
 
287
""" % {'root_dir': ivle.conf.root_dir,
 
288
       'public_host': ivle.conf.public_host,
 
289
       'svn_addr': ivle.conf.svn_addr,
 
290
       'username': username,
 
291
       'svn_pass': svn_pass,
 
292
      })
 
293
    conf_file.close()
333
294
 
334
295
    # Make this file world-readable
335
296
    # (chmod 644 conf_path)
337
298
                        | stat.S_IROTH)
338
299
 
339
300
def make_etc_passwd(username, user_jail_dir, template_dir, unixid):
340
 
    """Create a passwd file for a user's jail.
341
 
 
 
301
    """
342
302
    Creates /etc/passwd in the given user's jail. This will be identical to
343
303
    that in the template jail, except for the added entry for this user.
344
304
    """
345
 
    template_passwd_path = os.path.join(template_dir, "home/.passwd")
346
 
    passwd_path = os.path.join(user_jail_dir, "home/.passwd")
 
305
    template_passwd_path = os.path.join(template_dir, "etc/passwd")
 
306
    passwd_path = os.path.join(user_jail_dir, "etc/passwd")
347
307
    passwd_dir = os.path.dirname(passwd_path)
348
308
    if not os.path.exists(passwd_dir):
349
309
        os.makedirs(passwd_dir)
352
312
    passwd_file.write('%s:x:%d:%d::/home/%s:/bin/bash'
353
313
                      % (username, unixid, unixid, username))
354
314
    passwd_file.close()
 
315
 
 
316
def mount_jail(login):
 
317
    # This is where we'll mount to...
 
318
    destdir = os.path.join(ivle.conf.jail_base, login)
 
319
    # ... and this is where we'll get the user bits.
 
320
    srcdir = os.path.join(ivle.conf.jail_src_base, login)
 
321
    try:
 
322
        if not os.path.exists(destdir):
 
323
            os.mkdir(destdir)
 
324
        if os.system('/bin/mount -t aufs -o dirs=%s:%s=ro none %s'
 
325
                     % (srcdir, ivle.conf.jail_system, destdir)) == 0:
 
326
            logging.info("mounted user %s's jail." % login)
 
327
        else:
 
328
            logging.error("failed to mount user %s's jail!" % login)
 
329
    except Exception, message:
 
330
        logging.warning(str(message))