First version that works with Debian 9.. kind of
[ais.git] / bin / djais / views.py
1 #TODO
2 #Normalize 403 errors
3
4 import os
5 import os.path
6 from datetime import *
7 import re
8 from time import time as get_timestamp, sleep
9 import logging
10 import crack
11 import struct
12 import operator
13 #NNimport rrdtool
14 import csv
15 from django.http import *
16 from django.template import loader, RequestContext
17 from django import forms
18 from django.shortcuts import render, get_object_or_404
19 from django.utils.safestring import mark_safe
20
21 from decoratedstr import remove_decoration
22
23 from ais.area import list_areas
24 from ais.djais.basicauth import http_authenticate
25 from ais.djais.models import *
26 from ais.show_targets_ships import format_fleet_lastpos, kml_to_kmz, KML_DISPLAYOPT_SHOWHIDDEN
27 from ais.common import COUNTRIES_MID, Nmea, NmeaFeeder, SHIP_TYPES, STATUS_CODES, AIS_STATUS_NOT_AVAILABLE, AIS_ROT_NOT_AVAILABLE, AIS_LATLON_SCALE, AIS_LON_NOT_AVAILABLE, AIS_LAT_NOT_AVAILABLE, AIS_COG_SCALE, AIS_COG_NOT_AVAILABLE, AIS_NO_HEADING, AIS_SOG_SCALE, AIS_SOG_NOT_AVAILABLE, AIS_SOG_MAX_SPEED, add_nmea1, add_nmea5_partial, load_fleet_to_uset
28 from ais.ntools import datetime_to_timestamp, strmmsi_to_mmsi, clean_ais_charset, clean_latitude, clean_longitude, LatLonFormatError
29 from ais.inputs.common import is_id4_active
30 from ais.inputs.stats import STATS_DIR
31 from ais.inputs.config import peers_get_config, get_hidden_mmsi
32 from ais import jobrunner
33 from ais.djais.widgets import *
34
35 def auth(username, raw_password):
36     try:
37         user = User.objects.get(login=username)
38     except User.DoesNotExist:
39         return None
40     if not user.check_password(raw_password):
41         return None
42     user.update_access_datetime()
43     return user
44
45
46 @http_authenticate(auth, 'ais')
47 def index(request):
48     news = News.objects.order_by('-created')[:5]
49     return render(request, 'index.html', {'news':news})
50
51
52 class VesselSearchForm(forms.Form):
53     def country_choices():
54         choices = {}
55         for mid, countryname in COUNTRIES_MID.items():
56             if countryname in choices:
57                 choices[countryname] += ',' + str(mid)
58             else:
59                 choices[countryname] = str(mid)
60         choices = [ (countryname, mids) for mids, countryname in choices.items() ]
61         choices = sorted(choices, key=operator.itemgetter(1))
62         return [('', 'Any')] + choices
63
64     name = forms.CharField(max_length=20, required=False)
65     mmsi = forms.CharField(help_text='Maritime Mobile Service Identity', min_length=9, max_length=9, required=False)
66     imo = forms.IntegerField(help_text='International Maritime Organization identifier assigned by Llyod', required=False)
67     callsign = forms.CharField(max_length=7, required=False)
68     flag = forms.ChoiceField(choices=country_choices(), required=False)
69     destination = forms.CharField(max_length=20, required=False)
70
71     def clean(self):
72         cleaned_data = self.cleaned_data
73         for value in cleaned_data.values():
74             if value:
75                 return cleaned_data
76         raise forms.ValidationError("You must enter at least one criteria")
77
78     def clean_mmsi(self):
79         mmsi = self.cleaned_data['mmsi']
80         if mmsi:
81             try:
82                 mmsi = strmmsi_to_mmsi(mmsi)
83             except AssertionError:
84                 raise forms.ValidationError("Invalid MMSI")
85         return mmsi
86
87
88 @http_authenticate(auth, 'ais')
89 def vessel_search(request):
90     if request.method == 'POST':
91         form = VesselSearchForm(request.POST)
92         if form.is_valid():
93             data = form.cleaned_data
94             vessels = Vessel.objects
95             if data['mmsi']:
96                 vessels = vessels.filter(mmsi=data['mmsi'])
97             if data['name']:
98                 vessels = vessels.filter(name__contains=data['name'].upper())
99             if data['imo']:
100                 vessels = vessels.filter(imo=data['imo'])
101             if data['callsign']:
102                 vessels = vessels.filter(callsign__contains=data['callsign'].upper())
103             if data['destination']:
104                 vessels = vessels.filter(destination__contains=data['destination'].upper())
105             if data['flag']:
106                 vessels = vessels.extra(where=['mmsi/1000000 IN (%s) ' % data['flag']])
107             return render(request, 'vessels.html', {'vessels': vessels})
108     else: # GET
109         form = VesselSearchForm()
110
111     return render(request, 'vessel_index.html', {'form': form})
112
113 class SecondsWidget(forms.MultiWidget):
114     '''
115     A widget that splits period number and period type in a integer and a choice widgets
116     Does not work well for more than a week, as month lengthes do vary.
117     '''
118     __periods = (
119         ('1', 'second(s)'),
120         ('60', 'minute(s)'),
121         ('3600', 'hour(s)'),
122         ('86400', 'day(s)'),
123         ('604800', 'week(s)'),
124         ('2592000', 'month(es)'))
125
126     def __init__(self, attrs=None):
127         textattrs = { 'size': 3 }
128         if attrs:
129             textattrs.update(attrs)
130         widgets = (
131             forms.TextInput(attrs=textattrs),
132             forms.Select(choices=self.__periods, attrs=attrs))
133         super(SecondsWidget, self).__init__(widgets, attrs)
134
135     def decompress(self, value):
136         if value:
137             for period_second in reversed([int(sec_txt[0]) for sec_txt in self.__periods]):
138                 if value >= period_second and not value % period_second:
139                     return [ str(value // period_second), str(period_second) ]
140         return [None, None]
141
142 class SecondsField(forms.MultiValueField):
143     widget = SecondsWidget
144
145     def __init__(self, *args, **kargs):
146         fields = (
147             forms.IntegerField(),
148             forms.CharField(),
149         )
150         forms.MultiValueField.__init__(self, fields=fields, *args, **kargs)
151
152     def compress(self, data_list):
153         #print 'data_list=', data_list
154         if data_list and data_list[0] is not None and data_list[1] is not None:
155             try:
156                 return data_list[0] * int(data_list[1])
157             except ValueError:
158                 pass
159         return None
160
161 class HistoryForm(forms.Form):
162     format = forms.ChoiceField(choices=(('animation', 'Animation (Google Earth v5)'), ('track', 'Track line (Google Earth)'), ('csv', 'Coma separated values (SpreadSheet)')), widget=forms.Select(attrs={'onchange': mark_safe("if (this.value=='csv') $('#csvhint').show(); else $('#csvhint').hide();")}))
163     period_type = forms.ChoiceField(choices=(('duration', 'Duration until now'), ('date_date','Between two dates'), ('start_duration', 'Start date and duration')), widget=forms.RadioSelect(attrs={'onchange': mark_safe("show_hide_start_end_time(this.value);")}))
164     start_date = forms.DateTimeField(required=False, widget=AisCalendarWidget(attrs={'class':'vDateField'}))
165     duration = SecondsField(required=False, label='Period length', initial=7*86400)
166     end_date = forms.DateTimeField(required=False, widget=AisCalendarWidget(attrs={'class':'vDateField'}))
167     grain = SecondsField(label='One position every', initial=3600)
168     filter_area = forms.ChoiceField(required=False, label='Only in area',
169         choices=[ ('', '(Not filtered)') ] + [ (fn[1], fn[0]) for fn in list_areas() ] )
170     reference_latitude = forms.CharField(required=False)
171     reference_longitude = forms.CharField(required=False)
172     filter_close_to = forms.FloatField(required=False, label='Only if closer than n miles from reference point')
173     filter_far_from = forms.FloatField(required=False, label='Only if farther than n miles from reference point')
174     filter_sog_le = forms.FloatField(required=False, label='Only if speed ≤ (knots)')
175     filter_sog_ge = forms.FloatField(required=False, label='Only if speed ≥ (knots)')
176     filter_destination = forms.CharField(required=False, label='Only if destination starts with', max_length=20, help_text='Use AIS upper case letters')
177
178     def clean_start_date(self):
179         period_type = self.cleaned_data.get('period_type', None)
180         start_date = self.cleaned_data.get('start_date', None)
181         if period_type in ('date_date', 'start_duration') and start_date is None:
182             raise forms.ValidationError('That is field is required.')
183         return start_date
184
185     def clean_duration(self):
186         period_type = self.cleaned_data.get('period_type', None)
187         duration = self.cleaned_data.get('duration', None)
188         print('duration=', duration)
189         if period_type in ('duration', 'start_duration') and duration is None:
190             raise forms.ValidationError('That is field is required.')
191         return duration
192     
193     def clean_end_date(self):
194         period_type = self.cleaned_data.get('period_type', None)
195         end_date = self.cleaned_data.get('end_date', None)
196         if period_type in ('date_date',) and end_date is None:
197             raise forms.ValidationError('That is field is required.')
198         return end_date
199
200     def clean_reference_latitude(self):
201         lat = self.cleaned_data.get('reference_latitude', None)
202         if lat is None:
203             return None
204         try:
205             clean_lat = clean_latitude(lat)
206         except LatLonFormatError as err:
207             if len(err.args) > 1:
208                 raise forms.ValidationError(err.args[0] % err.args[1:])
209             else:
210                 raise forms.ValidationError(*err.args)
211         return lat # return the text
212
213     def clean_reference_longitude(self):
214         lon = self.cleaned_data.get('reference_longitude', None)
215         if lon is None:
216             return None
217         try:
218             clean_lon = clean_longitude(lon)
219         except LatLonFormatError as err:
220             if len(err.args) > 1:
221                 raise forms.ValidationError(err.args[0] % err.args[1:])
222             else:
223                 raise forms.ValidationError(*err.args)
224         return lon # return the text
225
226     def clean(self):
227         cleaned_data = self.cleaned_data
228         period_type = self.cleaned_data.get('period_type', None)
229         start_date = self.cleaned_data.get('start_date', None)
230         end_date = self.cleaned_data.get('end_date', None)
231         if period_type == 'date_date' and start_date is not None and end_date is not None:
232             if start_date >= end_date:
233                 self._errors["start_date"] = self.error_class(['Start date must be before end date.'])
234         reference_latitude = self.cleaned_data.get('reference_latitude', None)
235         reference_longitude = self.cleaned_data.get('reference_longitude', None)
236         filter_close_to = self.cleaned_data.get('filter_close_to', None)
237         filter_far_from = self.cleaned_data.get('filter_far_from', None)
238         if filter_close_to is not None:
239             if reference_latitude is None:
240                 self._errors['reference_latitude'] = self.error_class(['Field required when using close_to filter'])
241             if reference_longitude is None:
242                 self._errors['reference_longitude'] = self.error_class(['Field required when using close_to filter'])
243         if filter_far_from is not None:
244             if reference_latitude is None:
245                 self._errors['reference_latitude'] = self.error_class(['Field required when using far_from filter'])
246             if reference_longitude is None:
247                 self._errors['reference_longitude'] = self.error_class(['Field required when using far_from filter'])
248         return cleaned_data
249     
250     def get_cmdext(self):
251         '''
252         Must not be called unless is_valid
253         Returns (command, extension)
254         '''
255         def escape_cmd_arg(txt):
256             txt = str(txt)
257             isclean = True
258             for c in txt:
259                 if c.upper() not in '+-./0123456789=@^_ABCDEFGHIJKLMNOPQRSTUVWXYZ':
260                     isclean = False
261                     break
262             if isclean:
263                 return txt
264             result = '"'
265             for c in txt:
266                 if c in '"\\':
267                     result += '\\'
268                 result += c
269             return result + '"'
270
271         def addparam(txt):
272             command.append(escape_cmd_arg(txt))
273             
274         data = self.cleaned_data
275         format = data['format']
276
277         if format == 'track':
278             command = [ 'show_targets_ships' ]
279             addparam('--format=track')
280             extension = 'kmz'
281
282         elif format == 'animation':
283             command = [ 'show_targets_ships' ]
284             addparam('--format=animation')
285             extension = 'kmz'
286         
287         elif format == 'csv':
288             command = [ 'common' ]
289             extension = 'csv'
290         else:
291             raise Http404('Invalid archive format')
292        
293         date_start = data.get('start_date', None)
294         if date_start:
295             addparam('--start')
296             addparam(date_start.strftime('%Y%m%d'))
297
298         date_end = data.get('end_date', None)
299         if date_end:
300             addparam('--end')
301             addparam(date_end.strftime('%Y%m%d'))
302
303         duration = data.get('duration', None)
304         if duration:
305             addparam('--duration')
306             addparam(duration)
307
308         grain = data['grain']
309         addparam('--granularity')
310         addparam(grain)
311
312         filter_area = data.get('filter_area', None)
313         if filter_area:
314             addparam('--filter-area')
315             addparam(filter_area)
316
317         filter_sog_le = data.get('filter_sog_le', None)
318         if filter_sog_le:
319             addparam('--filter-sog-le')
320             addparam(filter_sog_le)
321
322         filter_sog_ge = data.get('filter_sog_ge', None)
323         if filter_sog_ge:
324             addparam('--filter-sog-ge')
325             addparam(filter_sog_ge)
326
327         filter_destination = data.get('filter_destination', None)
328         if filter_destination:
329             addparam('--filter-destination')
330             addparam(filter_destination)
331
332         reference_latitude = self.cleaned_data.get('reference_latitude', None)
333         reference_longitude = self.cleaned_data.get('reference_longitude', None)
334         filter_close_to = self.cleaned_data.get('filter_close_to', None)
335         filter_far_from = self.cleaned_data.get('filter_far_from', None)
336         if filter_close_to and reference_latitude and reference_longitude:
337             addparam('--filter-closeto')
338             addparam(reference_latitude)
339             addparam(reference_longitude)
340             addparam(filter_close_to)
341         if filter_far_from and reference_latitude and reference_longitude:
342             addparam('--filter-farfrom')
343             addparam(reference_latitude)
344             addparam(reference_longitude)
345             addparam(filter_far_from)
346         return ' '.join(command), extension
347
348
349 @http_authenticate(auth, 'ais')
350 def vessel(request, strmmsi):
351     mmsi = strmmsi_to_mmsi(strmmsi)
352     vessel = get_object_or_404(Vessel, pk=mmsi)
353     nmea = Nmea.new_from_lastinfo(strmmsi)
354     #if not nmea.timestamp_1 and not nmea.timestamp_5:
355     #    raise Http404
356     is_hidden = mmsi in get_hidden_mmsi()
357     hide_ship = is_hidden and not request.user.flag_allowhidden
358     return render(request, 'vessel.html', {'nmea': nmea, 'is_hidden': is_hidden, 'hide_ship': hide_ship,'form': HistoryForm()})
359
360
361 class VesselManualInputForm(forms.Form):
362     timestamp = forms.DateTimeField(label='When', help_text='When was the observation made in GMT. Use YYYY-MM-DD HH:MM:SS format')
363     imo = forms.IntegerField(required=False, min_value=1000000, max_value=9999999)
364     name = forms.CharField(max_length=20, required=False)
365     callsign = forms.CharField(max_length=7, required=False)
366     type = forms.TypedChoiceField(required=False, choices = [ kv for kv in SHIP_TYPES.items() if 'reserved' not in kv[1].lower()], coerce=int, empty_value=0, initial=0)
367     status = forms.TypedChoiceField(required=False, choices = [ kv for kv in STATUS_CODES.items() if 'reserved' not in kv[1].lower()], coerce=int, empty_value=AIS_STATUS_NOT_AVAILABLE, initial=AIS_STATUS_NOT_AVAILABLE)
368     sog = forms.FloatField(label='Speed', help_text='Over ground, in knots', required=False, min_value=0, max_value=AIS_SOG_MAX_SPEED/AIS_SOG_SCALE)
369     latitude = forms.CharField(required=False)
370     longitude = forms.CharField(required=False)
371     cog = forms.FloatField(label='Course', help_text='Over ground', required=False, min_value=0.0, max_value=359.9)
372     heading = forms.IntegerField(required=False, min_value=0, max_value=359)
373
374     @staticmethod
375     def _clean_ais_charset(ustr):
376         ustr = remove_decoration(ustr) # benign cleaning, but can increase size (œ->oe)
377         ustr = ustr.upper() # benign cleaning
378         str = clean_ais_charset(ustr.encode('ascii', 'replace'))
379         if str(str) != ustr:
380             raise forms.ValidationError('Invalid character: AIS alphabet is @ABCDEFGHIJKLMNOPQRSTUVWXYZ[\\]^- !"#$%&\'()*+,-./0123456789:;<=>?')
381         return str
382
383     def clean_timestamp(self):
384         data = self.cleaned_data['timestamp']
385         if data is None:
386             return None
387         if data < datetime.utcnow() - timedelta(365):
388             raise forms.ValidationError('Date is too much is the past.')
389         if data > datetime.utcnow():
390             raise forms.ValidationError('Date is be in the future. This form is only for observed results.')
391         return datetime_to_timestamp(data)
392
393     def clean_imo(self):
394         data = self.cleaned_data['imo']
395         if data is None:
396             return 0
397         return data
398
399     def clean_name(self):
400         name = self.cleaned_data['name']
401         if name is None:
402             return ''
403         name = VesselManualInputForm._clean_ais_charset(name)
404         if len(name)>20:
405             raise forms.ValidationError('Ensure this value has at most 20 characters (it has %s).' % len(name))
406         return name
407
408     def clean_callsign(self):
409         callsign = self.cleaned_data['callsign']
410         if callsign is None:
411             return ''
412         callsign = VesselManualInputForm._clean_ais_charset(callsign)
413         if len(callsign)>7:
414             raise forms.ValidationError('Ensure this value has at most 7 characters (it has %s).' % len(callsign))
415         return callsign
416
417     def clean_sog(self):
418         sog = self.cleaned_data['sog']
419         if sog is None:
420             return AIS_SOG_NOT_AVAILABLE
421         return int(sog*AIS_SOG_SCALE)
422
423     def clean_latitude(self):
424         #TODO: use ntools.clean_latitude
425         data = self.cleaned_data['latitude']
426         data = data.replace("''", '"') # common mistake
427         data = data.replace(' ', '') # remove spaces
428         sides = 'SN'
429         if not data:
430             return AIS_LAT_NOT_AVAILABLE
431         tmp, side = data[:-1], data[-1]
432         if side == sides[0]:
433             side = -1
434         elif side == sides[1]:
435             side = 1
436         else:
437             raise forms.ValidationError('Last character must be either %s or %s.' % (sides[0], sides[1]))
438         spl = tmp.split('°')
439         if len(spl) == 1:
440             raise forms.ValidationError('You need to use the ° character.')
441         d, tmp = spl
442         try:
443             d = float(d)
444         except ValueError:
445             raise forms.ValidationError('Degrees must be an number. It\'s %s.' % d)
446         spl = tmp.split("'", 1)
447         if len(spl) == 1:
448             # no ' sign: ok only if there is nothing but the side after °
449             # we don't accept seconds if there is no minutes:
450             # It might be an entry mistake
451             tmp = spl[0]
452             if len(tmp) == 0:
453                 m = s = 0
454             else:
455                 raise forms.ValidationError('You must use the \' character between ° and %s.' % data[-1])
456         else:
457             m, tmp = spl
458             try:
459                 m = float(m)
460             except ValueError:
461                 raise forms.ValidationError('Minutes must be an number. It\'s %s.' % m)
462             if len(tmp) == 0:
463                 s = 0
464             else:
465                 if tmp[-1] != '"':
466                     raise forms.ValidationError('You must use the " character between seconds and %s.' % data[-1])
467                 s = tmp[:-1]
468                 try:
469                     s = float(s)
470                 except ValueError:
471                     raise forms.ValidationError('Seconds must be an number. It\'s %s.' % s)
472         data = side * ( d + m / 60 + s / 3600)
473
474         if data < -90 or data > 90:
475             raise forms.ValidationError('%s in not in -90..90 range' % data)
476         return int(data * AIS_LATLON_SCALE)
477
478     def clean_longitude(self):
479         #TODO: use ntools.clean_latitude
480         data = self.cleaned_data['longitude']
481         data = data.replace("''", '"') # common mistake
482         data = data.replace(' ', '') # remove spaces
483         sides = 'WE'
484         if not data:
485             return AIS_LON_NOT_AVAILABLE
486         tmp, side = data[:-1], data[-1]
487         if side == sides[0]:
488             side = -1
489         elif side == sides[1]:
490             side = 1
491         else:
492             raise forms.ValidationError('Last character must be either %s or %s.' % (sides[0], sides[1]))
493         spl = tmp.split('°')
494         if len(spl) == 1:
495             raise forms.ValidationError('You need to use the ° character.')
496         d, tmp = spl
497         try:
498             d = float(d)
499         except ValueError:
500             raise forms.ValidationError('Degrees must be an number. It\'s %s.' % d)
501         spl = tmp.split("'", 1)
502         if len(spl) == 1:
503             # no ' sign: ok only if there is nothing but the side after °
504             # we don't accept seconds if there is no minutes:
505             # It might be an entry mistake
506             tmp = spl[0]
507             if len(tmp) == 0:
508                 m = s = 0
509             else:
510                 raise forms.ValidationError('You must use the \' character between ° and %s.' % data[-1])
511         else:
512             m, tmp = spl
513             try:
514                 m = float(m)
515             except ValueError:
516                 raise forms.ValidationError('Minutes must be an number. It\'s %s.' % m)
517             if len(tmp) == 0:
518                 s = 0
519             else:
520                 if tmp[-1] != '"':
521                     raise forms.ValidationError('You must use the " character between seconds and %s.' % data[-1])
522                 s = tmp[:-1]
523                 try:
524                     s = float(s)
525                 except ValueError:
526                     raise forms.ValidationError('Seconds must be an number. It\'s %s.' % s)
527         data = side * ( d + m / 60 + s / 3600)
528
529         if data < -180 or data > 180:
530             raise forms.ValidationError('%s in not in -180..180 range' % data)
531         return int(data * AIS_LATLON_SCALE)
532
533     def clean_cog(self):
534         data = self.cleaned_data['cog']
535         if data is None:
536             return AIS_COG_NOT_AVAILABLE
537         return int(data * AIS_COG_SCALE)
538     
539     def clean_heading(self):
540         #raise forms.ValidationError('clean_heading called')
541         data = self.cleaned_data['heading']
542         if data is None:
543             return AIS_NO_HEADING
544         return data
545
546     def clean(self):
547         cleaned_data = self.cleaned_data
548         if (cleaned_data.get('latitude', AIS_LAT_NOT_AVAILABLE) == AIS_LAT_NOT_AVAILABLE ) ^ ( cleaned_data.get('longitude', AIS_LON_NOT_AVAILABLE) == AIS_LON_NOT_AVAILABLE):
549             raise forms.ValidationError('It makes no sense to enter just a latitude or a longitude. Enter both or none.')
550         if cleaned_data.get('latitude', AIS_LAT_NOT_AVAILABLE) == AIS_LAT_NOT_AVAILABLE:
551             if cleaned_data.get('status', AIS_STATUS_NOT_AVAILABLE) != AIS_STATUS_NOT_AVAILABLE:
552                 raise forms.ValidationError('It makes no sense to enter a status without coordinates. Please enter latitute and longitude too.')
553             if cleaned_data.get('sog', AIS_SOG_NOT_AVAILABLE) != AIS_SOG_NOT_AVAILABLE:
554                 raise forms.ValidationError('It makes no sense to enter a speed without coordinates. Please enter latitute and longitude too.')
555             if cleaned_data.get('cog', AIS_COG_NOT_AVAILABLE) != AIS_COG_NOT_AVAILABLE:
556                 raise forms.ValidationError('It makes no sense to enter a course without coordinates. Please enter latitute and longitude too.')
557             if cleaned_data.get('heading', AIS_NO_HEADING) != AIS_NO_HEADING:
558                 raise forms.ValidationError('It makes no sense to enter a heading without coordinates. Please enter latitute and longitude too.')
559
560         if cleaned_data.get('timestamp', None) \
561         and cleaned_data.get('imo', 0) == 0 \
562         and cleaned_data.get('name', '') == '' \
563         and cleaned_data.get('callsign', '') == '' \
564         and cleaned_data.get('type', 0) == 0 \
565         and cleaned_data.get('status', AIS_STATUS_NOT_AVAILABLE) == AIS_STATUS_NOT_AVAILABLE \
566         and cleaned_data.get('sog', AIS_SOG_NOT_AVAILABLE) == AIS_SOG_NOT_AVAILABLE \
567         and cleaned_data.get('latitude', AIS_LAT_NOT_AVAILABLE) == AIS_LAT_NOT_AVAILABLE \
568         and cleaned_data.get('longitude', AIS_LON_NOT_AVAILABLE) == AIS_LON_NOT_AVAILABLE \
569         and cleaned_data.get('cog', AIS_COG_NOT_AVAILABLE) == AIS_COG_NOT_AVAILABLE \
570         and cleaned_data.get('heading', AIS_NO_HEADING) == AIS_NO_HEADING:
571             raise forms.ValidationError("You must enter some data, beside when.")
572         return cleaned_data
573
574 @http_authenticate(auth, 'ais')
575 def vessel_manual_input(request, strmmsi):
576     strmmsi = strmmsi.encode('utf-8')
577     nmea = Nmea.new_from_lastinfo(strmmsi)
578     if request.method == 'POST' or request.META['QUERY_STRING']:
579         form = VesselManualInputForm(request.REQUEST)
580         if form.is_valid():
581             data = form.cleaned_data
582             source = 'U' +  struct.pack('<I', request.user.id)[0:3]
583             result = ''
584             if data['imo'] != 0 \
585             or data['name'] != '' \
586             or data['callsign'] != '' \
587             or data['type'] != 0:
588                 toto = (strmmsi, data['timestamp'], data['imo'], data['name'], data['callsign'], data['type'], 0,0,0,0, 0,0,24,60, 0, '', source)
589                 result += 'UPDATING NMEA 5: '+repr(toto)+'<br>'
590                 add_nmea5_partial(*toto)
591             if data['status'] != AIS_STATUS_NOT_AVAILABLE \
592             or data['sog'] != AIS_SOG_NOT_AVAILABLE \
593             or data['latitude'] != AIS_LAT_NOT_AVAILABLE \
594             or data['longitude'] != AIS_LON_NOT_AVAILABLE \
595             or data['cog'] != AIS_COG_NOT_AVAILABLE \
596             or data['heading'] != AIS_NO_HEADING:
597                 toto = (strmmsi, data['timestamp'], data['status'], AIS_ROT_NOT_AVAILABLE, data['sog'], data['latitude'], data['longitude'], data['cog'], data['heading'], source)
598                 result += 'UPDATING NMEA 1: '+repr(toto)+'<br>'
599                 add_nmea1(*toto)
600             return HttpResponse('Not fully implemented: '+repr(data) + '<br>' + result)
601     else: # GET
602         form = VesselManualInputForm()
603     return render(request, 'vessel_manual_input.html', {'form': form, 'nmea': nmea})
604
605
606 @http_authenticate(auth, 'ais')
607 def vessel_lastpos(request, strmmsi):
608     display_options = 0
609     if request.user.flag_allowhidden:
610         display_options = KML_DISPLAYOPT_SHOWHIDDEN
611     value = kml_to_kmz(format_fleet_lastpos([ strmmsi ], document_name=strmmsi, display_options=display_options))
612     response = HttpResponse(value, content_type="application/vnd.google-earth.kmz")
613     response['Content-Disposition'] = 'attachment; filename=%s.kmz' % strmmsi
614     return response
615
616 @http_authenticate(auth, 'ais')
617 def vessel_history(request, strmmsi):
618     """
619     TODO
620     That view is called from Google Earth, so that it must support GET method.  
621     """
622     initial = {}
623     if request.method == 'POST':
624         form = HistoryForm(request.POST, initial=initial)
625         if form.is_valid():
626             command, extension = form.get_cmdext()
627
628             if request.user.flag_allowhidden:
629                 command += ' --show-hidden-ships'
630             command += ' ' + strmmsi
631
632             job = Job()
633             job.queue_time = datetime.utcnow()
634             job.friendly_filename = '%s.%s' % (strmmsi, extension)
635             job.user = request.user
636             job.command = command
637             job.save()
638             if not jobrunner.wakeup_daemon():
639                 return HttpResponseServerError(jobrunner.DAEMON_WAKEUP_ERROR)
640             return HttpResponseRedirect('/job/%s/download' % job.id)
641     else: # GET
642         form = HistoryForm(initial=initial)
643     nmea = Nmea.new_from_lastinfo(strmmsi)
644     return render(request, 'vessel_history.html', {'nmea': nmea, 'form':form})
645
646
647 @http_authenticate(auth, 'ais')
648 def fleets(request):
649     fleetusers = request.user.fleetuser_set.order_by('fleet')
650     return render(request, 'fleets.html', {'fleetusers':fleetusers})
651
652
653 @http_authenticate(auth, 'ais')
654 def fleet(request, fleetname):
655     fleet = get_object_or_404(Fleet, name=fleetname)
656     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
657         return HttpResponseForbidden('<h1>Forbidden</h1>')
658     return render(request, 'fleet.html', {'fleet':fleet})
659
660
661 class FleetEditForm(forms.Form):
662     name = forms.CharField(max_length=50)
663     description = forms.CharField(widget=forms.Textarea)
664
665     def clean_name(self):
666         name = self.cleaned_data['name']
667         if name == 'add':
668             raise forms.ValidationError("Sorry that name is reserved. Try another one.")
669         if name != self.initial.get('name', None):
670             if Fleet.objects.filter(name=name).count():
671                 raise forms.ValidationError("Sorry that fleet name is already in use. Try another one.")
672         return remove_decoration(name).replace(' ', '_')
673         
674
675 @http_authenticate(auth, 'ais')
676 def fleet_edit(request, fleetname):
677     initial = {}
678     if fleetname is not None:
679         fleet = get_object_or_404(Fleet, name=fleetname)
680         if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
681             return HttpResponseForbidden('<h1>Forbidden</h1>')
682
683         initial['name'] = fleet.name
684         initial['description'] = fleet.description
685     else:
686         fleet = Fleet()
687
688     if request.method == 'POST':
689         form = FleetEditForm(request.POST, initial=initial)
690         if form.is_valid():
691             fleet.name = form.cleaned_data['name']
692             fleet.description = form.cleaned_data['description']
693             fleet.save()
694             if not fleetname: # new one
695                 fu = FleetUser()
696                 fu.fleet = fleet
697                 fu.user = request.user
698                 fu.save()
699             request.user.info('Fleet updated')
700             return HttpResponseRedirect('/fleet/%s/' % fleet.name)
701     else: # GET
702         form = FleetEditForm(initial=initial)
703     return render(request,'fleet_edit.html', {'fleet':fleet, 'form':form})
704
705
706 @http_authenticate(auth, 'ais')
707 def fleet_vessels(request, fleetname):
708     fleet = get_object_or_404(Fleet, name=fleetname)
709     if not FleetUser.objects.filter(fleet=fleet, user=request.user.id).all():
710         return HttpResponseForbidden('<h1>Forbidden</h1>')
711     vessels = fleet.vessel.all()
712     return render(request, 'fleet_vessels.html', {'fleet':fleet, 'vessels': vessels})
713
714
715 @http_authenticate(auth, 'ais')
716 def fleet_vessel_add(request, fleetname):
717     fleet = get_object_or_404(Fleet, name=fleetname)
718     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
719         return HttpResponseForbidden('<h1>Forbidden</h1>')
720     strmmsi = request.REQUEST['mmsi']
721     mmsi = strmmsi_to_mmsi(strmmsi)
722     try:
723         vessel = Vessel.objects.get(pk=mmsi)
724     except Vessel.DoesNotExist:
725         request.user.error('No such vessel')
726     else:
727         try:
728             fv = FleetVessel.objects.get(fleet=fleet, vessel=vessel)
729         except FleetVessel.DoesNotExist:
730             FleetVessel(fleet=fleet, vessel=vessel).save()
731             request.user.info('Vessel %s added to fleet %s.' % (vessel.name, fleetname))
732         else:
733             request.user.error('Vessel with MMSI %s is already in that fleet' % strmmsi)
734     return HttpResponseRedirect('/fleet/%s/list' % fleetname)
735
736
737 class FleetAddVessel(forms.Form):
738     mmsi = forms.CharField(help_text='Enter one MMSI per line', required=False, widget=forms.Textarea)
739     #name = forms.CharField(max_length=20, required=False)
740     #imo = forms.IntegerField(required=False)
741     #callsign = forms.CharField(max_length=7, required=False)
742     #destination = forms.CharField(max_length=20, required=False)
743     def clean(self):
744         cleaned_data = self.cleaned_data
745         for value in cleaned_data.values():
746             if value:
747                 return cleaned_data
748         raise forms.ValidationError("You must enter at least one criteria")
749
750 @http_authenticate(auth, 'ais')
751 def fleet_vessel_add2(request, fleetname):
752     fleet = get_object_or_404(Fleet, name=fleetname)
753     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
754         return HttpResponseForbidden('<h1>Forbidden</h1>')
755     if request.method == 'POST' or request.META['QUERY_STRING']:
756         form = FleetAddVessel(request.REQUEST)
757         if form.is_valid():
758             data = form.cleaned_data
759             result = []
760             a_strmmsi = request.REQUEST['mmsi']
761             if a_strmmsi:
762                 for strmmsi in a_strmmsi.split('\n'):
763                     strmmsi = strmmsi.strip('\r')
764                     if not strmmsi:
765                         continue
766                     try:
767                         sqlmmsi = strmmsi_to_mmsi(strmmsi)
768                     except AssertionError:
769                         result.append('Invalid mmsi %s' % strmmsi)
770                         continue
771                     try:
772                         vessel = Vessel.objects.get(pk=sqlmmsi)
773                     except Vessel.DoesNotExist:
774                         result.append('No vessel with MMSI '+strmmsi)
775                         continue
776                     try:
777                         fv = FleetVessel.objects.get(fleet=fleet, vessel=vessel)
778                         result.append('Vessel with MMSI %s is already in that fleet' % strmmsi)
779                     except FleetVessel.DoesNotExist:
780                         FleetVessel(fleet=fleet, vessel=vessel).save()
781                         result.append('Vessel with MMSI %s added' % strmmsi)
782
783             return HttpResponse('<br>'.join(result))
784     else: # GET
785         form = FleetAddVessel()
786
787     return render(request, 'fleet_vessel_add.html', {'form': form, 'fleet': fleet})
788
789
790 @http_authenticate(auth, 'ais')
791 def fleet_vessel_remove(request, fleetname):
792     fleet = get_object_or_404(Fleet, name=fleetname)
793     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
794         return HttpResponseForbidden('<h1>Forbidden</h1>')
795     strmmsi = request.REQUEST['mmsi']
796     mmsi = strmmsi_to_mmsi(strmmsi)
797     try:
798         vessel = Vessel.objects.get(pk=mmsi)
799     except Vessel.DoesNotExist:
800         request.user.error('No such vessel')
801     else:
802         try:
803             fv = FleetVessel.objects.get(fleet=fleet, vessel=vessel)
804             fv.delete()
805             request.user.info('Vessel %s removed from fleet %s.' % (vessel.name, fleetname))
806         except FleetVessel.DoesNotExist:
807             request.user.error('Vessel %s is not in fleet %s.' % (vessel.name, fleetname))
808     return HttpResponseRedirect('/fleet/%s/list' % fleetname)
809
810
811 @http_authenticate(auth, 'ais')
812 def fleet_users(request, fleetname):
813     fleet = get_object_or_404(Fleet, name=fleetname)
814     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
815         return HttpResponseForbidden('<h1>Forbidden</h1>')
816
817     if request.method == 'POST' or request.META['QUERY_STRING']:
818         action = request.REQUEST['action']
819         userlogin = request.REQUEST['user']
820         try:
821             user = User.objects.get(login=userlogin)
822         except User.DoesNotExist:
823             request.user.error('User %s does not exist.' % userlogin)
824         else:
825             if action == 'add':
826                 try:
827                     fu = FleetUser.objects.get(fleet=fleet, user=user)
828                     request.user.error('User %s already has access.' % user.login)
829                 except FleetUser.DoesNotExist:
830                     FleetUser(fleet=fleet, user=user).save()
831                     #TODO log
832                     request.user.info('Granted access to user %s.' % user.login)
833             elif action == 'revoke':
834                 try:
835                     fu = FleetUser.objects.get(fleet=fleet, user=user)
836                     fu.delete()
837                     #TODO log
838                     request.user.info('Revoked access to user %s.' % user.login)
839                     if FleetUser.objects.filter(fleet=fleet).count() == 0:
840                         fleet.delete()
841                         request.user.info("Deleted fleet %s (no more users)." % fleet.name)
842                         return HttpResponseRedirect('/fleet/')
843                 except FleetUser.DoesNotExist:
844                     request.user.error('User %s didn\'t have access.' % user.login)
845             else:
846                 request.user.error('Unknown action %s' % action)
847
848     fleetusers = fleet.fleetuser_set.order_by('user__name')
849     otherusers = User.objects.exclude(id__in=[fu.user.id for fu in fleetusers]).order_by('name')
850     return render(request, 'fleet_users.html', {'fleet':fleet, 'fleetusers': fleetusers, 'otherusers': otherusers})
851
852
853 @http_authenticate(auth, 'ais')
854 def fleet_lastpos(request, fleetname):
855     fleet = get_object_or_404(Fleet, name=fleetname)
856     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
857         return HttpResponseForbidden('<h1>Forbidden</h1>')
858     display_options = 0
859     if request.user.flag_allowhidden:
860         display_options = KML_DISPLAYOPT_SHOWHIDDEN
861     fleet_uset = load_fleet_to_uset(fleet.id)
862     value = kml_to_kmz(format_fleet_lastpos(fleet_uset, document_name=fleetname+' fleet', display_options=display_options).encode('utf-8'))
863     response = HttpResponse(value, mimetype="application/vnd.google-earth.kmz")
864     response['Content-Disposition'] = 'attachment; filename=%s.kmz' % fleetname
865     return response
866
867 @http_authenticate(auth, 'ais')
868 def fleet_history(request, fleetname):
869     fleet = get_object_or_404(Fleet, name=fleetname)
870     if not FleetUser.objects.filter(fleet=fleet.id, user=request.user.id).all():
871         return HttpResponseForbidden('<h1>Forbidden</h1>')
872     initial = {}
873     if request.method == 'POST':
874         form = HistoryForm(request.POST, initial=initial)
875         if form.is_valid():
876             command, extension = form.get_cmdext()
877
878             if request.user.flag_allowhidden:
879                 command += ' --show-hidden-ships'
880             command += ' @' + fleetname
881
882             job = Job()
883             job.queue_time = datetime.utcnow()
884             job.friendly_filename = '%s.%s' % (fleetname, extension)
885             job.user = request.user
886             job.command = command
887             job.save()
888             if not jobrunner.wakeup_daemon():
889                 return HttpResponseServerError(jobrunner.DAEMON_WAKEUP_ERROR)
890             return HttpResponseRedirect('/job/%s/download' % job.id)
891     else: # GET
892         form = HistoryForm(initial=initial)
893     return render(request, 'fleet_history.html', {'fleet': fleet, 'form':form})
894
895
896 @http_authenticate(auth, 'ais')
897 def jobs_index(request):
898     show_archive = 'archive' in request.GET
899     if show_archive:
900         jobs = request.user.job_set.all()
901     else:
902         jobs = request.user.job_set.filter(archive_time__isnull=True)
903     
904     response = render(request, 'jobs.html', {'jobs': jobs, 'queue_size': Job.queue_size(), 'archive': show_archive })
905     response['Refresh'] = 15
906     return response
907
908 @http_authenticate(auth, 'ais')
909 def job_detail(request, jobid):
910     job = get_object_or_404(Job, id=jobid)
911     if job.user != request.user:
912         return HttpResponseForbidden('403 Forbidden')
913     response = render(request, 'job.html', {'job': job, 'queue_size': Job.queue_size()})
914     if not job.finish_time:
915         response['Refresh'] = 5
916     elif not job.archive_time:
917         # finished but not archived:
918         response['Refresh'] = '0;url=https://' + request.get_host() + '/job/%s/download' % job.id
919         # careful not to modify other unschronized columns
920         Job.objects.filter(id=jobid).update(archive_time = datetime.utcnow())
921     return response
922
923 @http_authenticate(auth, 'ais')
924 def job_get(request, jobid):
925     job = get_object_or_404(Job, id=jobid)
926     if job.user != request.user:
927         return HttpResponseForbidden('403 Forbidden')
928     total_wait = 0
929     while not job.finish_time:
930         sleep(1)
931         total_wait += 1
932         if total_wait > 15:
933             request.user.info('Your query is slow. Please be patient.')
934             if not job.notify:
935                 # careful not to modify other unschronized columns
936                 Job.objects.filter(id=jobid).update(notify = 'W') # Web
937             return HttpResponseRedirect('/job/%s/' % job.id)
938         job = get_object_or_404(Job, id=jobid)
939     
940     if not job.archive_time:
941         # careful not to modify other unschronized columns
942         Job.objects.filter(id=jobid).update(archive_time = datetime.utcnow())
943
944     if job.result:
945         # Error occured
946          return HttpResponseRedirect('/job/%s/' % job.id)
947     extension = os.path.splitext(job.friendly_filename)[-1]
948     return HttpResponseRedirect('/job_result/%s%s/%s' % (job.id, extension, job.friendly_filename))
949
950
951 @http_authenticate(auth, 'ais')
952 def job_log(request, jobid):
953     job = get_object_or_404(Job, id=jobid)
954     if job.user != request.user:
955         return HttpResponseForbidden('403 Forbidden')
956     log = ''
957     try:
958         log = open(jobrunner.RESULT_DIR+str(jobid)+'.log').read()
959     except IOError as err:
960         if err.errno != 2: # No such file
961             raise
962     return render(request, 'job_log.html', {'job': job, 'log': log})
963
964
965 @http_authenticate(auth, 'ais')
966 def users(request):
967     users = User.objects.order_by('name')
968     for user in users:
969         user.admin_ok = user.is_admin_by(request.user.id)
970     if 'showtree' in request.GET:
971         local_users = {}
972         for user in users:
973             user.children = []
974             local_users[user.id] = user
975         for user in users:
976             if user.father_id == None:
977                 root = user
978             else:
979                 local_users[user.father_id].children.append(user)
980         assert root
981         return render(request, 'users_tree.html', {'root': root, 'auser': request.user.id})
982     else:
983         return render(request, 'users.html', {'users':users})
984
985 phone_re = re.compile('^\\+.+')
986
987 class UserEditForm(forms.Form):
988     login = forms.RegexField(regex=r'^[a-zA-Z0-9_]+$', max_length=16,
989         error_message ='Login must only contain letters, numbers and underscores')
990     name = forms.CharField(max_length=50)
991     email = forms.EmailField()
992     phone = forms.RegexField(regex='\\+.+', max_length=20, required=False,
993         error_message ='Phones must start with a \'+\'')
994     def __init__(self, show_flag_showhidden, *args, **kargs):
995         forms.Form.__init__(self, *args, **kargs)
996         self.old_login = kargs['initial']['login']
997         if show_flag_showhidden:
998             self.fields['show_hidden_ships'] = forms.BooleanField(required=False)
999
1000     def clean_login(self):
1001         new_login = self.cleaned_data['login']
1002         if new_login != self.old_login:
1003             if User.objects.filter(login=new_login).count():
1004                 raise forms.ValidationError("Sorry that login is already in use. Try another one.")
1005             if new_login == 'add':
1006                 raise forms.ValidationError("Sorry that login is reserved. Try another one.")
1007         return new_login
1008
1009 @http_authenticate(auth, 'ais')
1010 def user_detail(request, login):
1011     user = get_object_or_404(User, login=login)
1012     user.admin_ok = user.is_admin_by(request.user.id)
1013     return render(request, 'user_detail.html', {'auser': user})
1014
1015 @http_authenticate(auth, 'ais')
1016 def user_edit(request, login):
1017     initial = {}
1018     if login:
1019         user = get_object_or_404(User, login=login)
1020         if not user.is_admin_by(request.user.id):
1021             return HttpResponseForbidden('403 Forbidden')
1022     else:
1023         user = User()
1024         user.father_id = request.user.id;
1025     initial['login'] = user.login
1026     initial['name'] = user.name
1027     initial['email'] = user.email
1028     initial['phone'] = user.phone
1029     initial['show_hidden_ships'] = user.flag_allowhidden
1030     if request.method == 'POST':
1031         form = UserEditForm(request.user.flag_allowhidden, request.POST, initial=initial)
1032         if form.is_valid():
1033             user.login = form.cleaned_data['login']
1034             user.name = form.cleaned_data['name']
1035             user.email = form.cleaned_data['email']
1036             user.phone = form.cleaned_data['phone']
1037             if request.user.flag_allowhidden:
1038                 user.flag_allowhidden = form.cleaned_data['show_hidden_ships']
1039             user.save()
1040             user.check_sandbox_access(request.user)
1041             return HttpResponseRedirect('/user/')
1042     else: # GET
1043         form = UserEditForm(request.user.flag_allowhidden, initial=initial)
1044
1045     return render(request, 'user_edit.html', {'form':form, 'auser': user})
1046
1047
1048 class ChangePasswordForm(forms.Form):
1049     new_password = forms.CharField(max_length=16, widget=forms.PasswordInput())
1050     new_password_check = forms.CharField(max_length=16, widget=forms.PasswordInput())
1051
1052     def clean_generic_password(self, field_name):
1053         password = self.cleaned_data[field_name]
1054         try:
1055             crack.FascistCheck(password)
1056         except ValueError as err:
1057             raise forms.ValidationError(err.message)
1058         return password
1059
1060     def clean_new_password(self):
1061         return self.clean_generic_password('new_password')
1062
1063     def clean_new_password_check(self):
1064         return self.clean_generic_password('new_password_check')
1065
1066     def clean(self):
1067         cleaned_data = self.cleaned_data
1068         pass1 = cleaned_data.get('new_password')
1069         pass2 = cleaned_data.get('new_password_check')
1070         if pass1 != pass2 and pass2:
1071             self._errors['new_password_check'] = forms.util.ErrorList(['Passwords must match'])
1072             del cleaned_data['new_password_check'] # FIXME
1073         return cleaned_data
1074
1075
1076 @http_authenticate(auth, 'ais')
1077 def user_change_password(request, login):
1078     user = get_object_or_404(User, login=login)
1079     if not user.is_admin_by(request.user.id):
1080         return HttpResponseForbidden('403 Forbidden')
1081     if request.method == 'POST':
1082         form = ChangePasswordForm(request.POST)
1083         if form.is_valid():
1084             user.set_password(form.cleaned_data['new_password'])
1085             user.save()
1086             return HttpResponseRedirect('/user/')
1087     else: # GET
1088         form = ChangePasswordForm()
1089     return render(request, 'user_change_password.html', {'form':form, 'auser':user})
1090
1091
1092 @http_authenticate(auth, 'ais')
1093 def user_delete(request, login):
1094     user = get_object_or_404(User, login=login)
1095     if not user.is_admin_by(request.user.id):
1096         return HttpResponseForbidden('403 Forbidden')
1097     if request.REQUEST.get('confirm', None):
1098         user.delete()
1099         return HttpResponseRedirect('/user/')
1100     return render(request, 'user_delete.html', {'form':None, 'auser':user})
1101
1102
1103 def logout(request):
1104     response = render(request, 'logout.html', {})
1105     return response
1106
1107 periods = ({
1108     'name_tiny': '2h',
1109     'name_long': '2 hours',
1110     'seconds': 2*60*60
1111     }, {
1112     'name_tiny': '6h',
1113     'name_long': '6 hours',
1114     'seconds': 6*60*60,
1115     'default': True,
1116     }, {
1117     'name_tiny': '2d',
1118     'name_long': '2 days',
1119     'seconds': 2*24*60*60
1120     }, {
1121     'name_tiny': '14d',
1122     'name_long': '2 weeks',
1123     'seconds': 14*24*60*60
1124     }, {
1125     'name_tiny': '90d',
1126     'name_long': '3 monthes',
1127     'seconds': 90*24*60*60
1128     }, {
1129     'name_tiny': '180d',
1130     'name_long': '6 monthes',
1131     'seconds': 180*24*60*60
1132     })
1133         
1134 class StatsSelectorForm(forms.Form):
1135     peers = forms.ChoiceField(choices=[('', 'All')] + [(id4,source['name']) for id4,source in peers_get_config().items()])
1136     types = forms.ChoiceField(choices=[('', 'All'), ('bytes', 'Bandwidth'), ('counts', "Packet'izer")], initial='counts')
1137     periods = forms.ChoiceField(choices=[(period['name_tiny'], period['name_long']) for period in periods] + [('', 'All')], initial='2d')
1138
1139 @http_authenticate(auth, 'ais')
1140 def sources_index(request):
1141     ACTIVE_MINUTES = 5
1142     peers_config = peers_get_config()
1143     peers_display = []
1144     for id4, peer in peers_config.items():
1145         peer['id4'] = id4
1146         peer['id2'] = id4[2:]
1147         peer['active'] = is_id4_active(id4, 60*ACTIVE_MINUTES)
1148         peers_display.append(peer)
1149         
1150     peers_display = sorted(peers_display, key=lambda k: k['id4'])
1151
1152     form = StatsSelectorForm()
1153
1154     response = render(request, 'sources_index.html', {'sources':peers_display, 'active_minutes': ACTIVE_MINUTES, 'form': form})
1155     response['Refresh'] = 60*ACTIVE_MINUTES
1156     return response
1157
1158
1159 @http_authenticate(auth, 'ais')
1160 def sources_stats(request):
1161     if request.method == 'POST':
1162         request_vars = request.POST
1163     else:
1164         request_vars = request.GET
1165
1166     filter_peers = request_vars.get('peers', None)
1167     if filter_peers:
1168         filter_peers = filter_peers.split(',')
1169
1170     peers_config = peers_get_config()
1171     peers_display = []
1172
1173     for id4, peer in peers_config.items():
1174         if filter_peers:
1175             if id4 not in filter_peers:
1176                 continue
1177         peer['id4'] = id4
1178         peers_display.append(peer)
1179
1180     peers_display = sorted(peers_display, key=lambda k: k['id4'])
1181
1182     filter_types = request_vars.get('types', None)
1183     if filter_types:
1184         filter_types = filter_types.split(',')
1185     else:
1186         filter_types = [ 'bytes', 'counts' ]
1187     logging.error('filter_types=%s', filter_types)
1188
1189     filter_periods = request_vars.get('periods', None)
1190     if filter_periods:
1191         display_periods = []
1192         for period_name in filter_periods.split(','):
1193             for period in periods:
1194                 if period['name_tiny'] == period_name:
1195                     display_periods.append(period)
1196     else:
1197         display_periods = periods
1198     #logging.error('display_periods=%s', display_periods)
1199
1200
1201     now = int(get_timestamp())
1202     for config in peers_display:
1203         id4 = config['id4']
1204         for period in periods:
1205             args = os.path.join(STATS_DIR, id4+'-'+period['name_tiny']+'-bytes.png'), \
1206                 '--lazy', \
1207                 '-l', '0', \
1208                 '--title', config['name'] + ' - Bandwidth usage - ' + period['name_long'], \
1209                 '--start', '%d' % (now - period['seconds']), \
1210                 '--end', '%d' % now, \
1211                 '--vertical-label', 'bps', \
1212                 'DEF:bytes=%s:bytes:AVERAGE' % os.path.join(STATS_DIR, id4+'.rrd'), \
1213                 'DEF:rawbytes=%s:rawbytes:AVERAGE' % os.path.join(STATS_DIR, id4+'.rrd'), \
1214                 'CDEF:bits=bytes,8,*', \
1215                 'CDEF:rawbits=rawbytes,8,*', \
1216                 'LINE:bits#00FF00:IP payload', \
1217                 'LINE:rawbits#FF0000:IP with headers'
1218             rrdtool.graph(*args)
1219             args = os.path.join(STATS_DIR, id4+'-'+period['name_tiny']+'-counts.png'), \
1220                 '--lazy', \
1221                 '-l', '0', \
1222                 '--title', config['name'] + ' - Packet\'izer stats - ' + period['name_long'], \
1223                 '--start', '%d' % (now-period['seconds']), \
1224                 '--end', '%d' % now, \
1225                 '--vertical-label', 'Hz', \
1226                 'DEF:packets=%s:packets:AVERAGE' % os.path.join(STATS_DIR, id4+'.rrd'), \
1227                 'DEF:lines=%s:lines:AVERAGE' % os.path.join(STATS_DIR, id4+'.rrd'), \
1228                 'LINE:packets#FF0000:input packets', \
1229                 'LINE:lines#00FF00:AIVDM lines'
1230             rrdtool.graph(*args)
1231     return render(request, 'sources.html', {'sources':peers_display, 'show_bytes': 'bytes' in filter_types,  'show_counts': 'counts' in filter_types, 'periods': display_periods})
1232
1233
1234 @http_authenticate(auth, 'ais')
1235 def news(request, page):
1236     NEWS_PER_PAGE = 5
1237     if page:
1238         page = int(page)
1239     else:
1240         page = 1
1241     npages = int((News.objects.count() + NEWS_PER_PAGE - 1) // NEWS_PER_PAGE)
1242     news = News.objects.order_by('-created')[(page - 1) * NEWS_PER_PAGE : page * NEWS_PER_PAGE]
1243     return render(request, 'news.html', {'news':news, 'page': page, 'npages': npages})
1244
1245 @http_authenticate(auth, 'ais')
1246 def news_atom(request):
1247     from django.db import connection
1248
1249     news = News.objects.order_by('-created')
1250
1251     cursor = connection.cursor()
1252     cursor.execute("SELECT MAX(updated) FROM news")
1253     row = cursor.fetchone()
1254     last_update = row[0]
1255
1256     return render(request, 'news.atom', {'news':news, 'last_update':last_update}, mimetype='application/atom+xml')