ccoop-update.sh

   1 #!/usr/bin/env bash
   2 #
   3 # Crédit Coopératif account tools
   4 #
   5 # It fetch csv file and merge them to previous ones
   6 # It also generates a local file suitable for a feed reader
   7 #
   8 # Depends on wget, iconv
   9
  10 set -e
  11
  12 export CCPATH=~/ccoop
  13 LOGFILE=$CCPATH/coop.log # unsued unless --log option is used
  14 COOKIEJAR=$CCPATH/cookiejar # cookies, deleted on exit
  15 TMP=$CCPATH/lastpage.html # last html page, deleted on exit
  16
  17 function parsearg() {
  18     _OPT="${1%=?*}"
  19     _VAL="${1#?*=}"
  20 }
  21
  22 function usage() {
  23     #echo $'\n' $@ $'\n'
  24     echo "Usage: ccoop.sh [options]"
  25     echo "  -h|--help             Display that help"
  26     echo "  -q|--quiet            Don't display informationnal messages"
  27     echo "  --log                 Log everything to $LOGFILE"
  28     echo "  --config              Setup a config file and install cron entry"
  29     echo "  --unconfig            Remove config file and remove cron entry"
  30     #echo "  --target=<filename>  Set target filename. Defaults to $target_file"
  31     #echo "See man ccoop.sh(1) for documentation."
  32 }
  33
  34 for arg in "$@"; do
  35     parsearg $arg
  36
  37     case $_OPT in
  38     -q|--quiet)
  39         quiet=1
  40         continue
  41     ;;
  42     --log)
  43         log=1
  44         continue
  45     ;;
  46     --config)
  47         isconfig=1
  48         continue
  49     ;;
  50     --unconfig)
  51         isunconfig=1
  52         continue
  53     ;;
  54     -h|--help)
  55         usage
  56         exit 0
  57     ;;
  58     #--target)
  59     #    target_file=$_VAL
  60     #    continue
  61     #;;
  62     *)
  63         echo "Unknown option $_OPT"
  64         usage
  65         exit 22
  66     ;;
  67     esac
  68 done
  69
  70 # That function prints messages to stderr, unless quiet is set
  71 # It logs into $LOGFILE if log is set, no matter whether quiet is set or not
  72 function inform() {
  73     if [ -n "$quiet" ]; then
  74         if [ -n "$log" ]; then
  75             echo $@ >> $LOGFILE >&2
  76         fi
  77     else # not quiet
  78         if [ -n "$log" ]; then
  79             echo $@ | tee -a $LOGFILE >&2
  80         else
  81             echo $@ >&2
  82         fi
  83     fi
  84 }
  85
  86 function fetch() {
  87     wget -q --load-cookies $COOKIEJAR --save-cookies $COOKIEJAR --keep-session-cookies $@ -O - | iconv -f ISO-8859-1 -t UTF-8 > $TMP
  88     if [ -n "$log" ]; then
  89         cat $TMP >> $LOGFILE
  90     fi
  91 }
  92
  93 function doconfig() {
  94     read -p "Coopanet login: " COOPLOGIN
  95     read -p "Coopanet password: " -s COOPPASSWORD
  96     echo "# coopanet configuration">$CCPATH/config
  97     echo "COOPLOGIN=$COOPLOGIN">>$CCPATH/config
  98     echo "COOPPASSWORD=$COOPPASSWORD">>$CCPATH/config
  99     echo >&2
 100     echo "config writen to $CCPATH/config" >&2
 101     crontab -l | grep -v ccoop-update.sh || echo "$(($RANDOM%60)) 6     * * *   $PWD/`dirname $0`/ccoop-update.sh -q" | crontab -
 102     echo "crontab installed" >&2
 103 }
 104
 105 function dounconfig() {
 106     local ok
 107     if [[ -e $CCPATH/config ]]; then
 108         rm -f $CCPATH/config
 109         echo "$CCPATH/config deleted">&2
 110         ok=1
 111     fi
 112     if crontab -l | grep ccoop-update.sh ; then
 113         crontab -l | grep -v ccoop-update.sh | crontab -
 114         echo "crontab uninstalled" >&2
 115         ok=1
 116     fi
 117     if [[ -z "$ok" ]]; then
 118         echo "Allready uninstalled." >&2
 119     fi
 120     exit 0
 121 }
 122
 123 function fetchall() {
 124     echo> $COOKIEJAR
 125     if [[ -n "$log" ]]; then
 126         echo> $LOGFILE
 127     fi
 128
 129     inform "WGET login form"
 130     fetch https://www.coopanet.com/banque/cpt/
 131
 132     inform "WGET bql/connexion.do"
 133     fetch "--post-data=site=C&codeUtil=$COOPLOGIN&motPasse=$COOPPASSWORD&pbValider=Valider" https://www.coopanet.com/banque/cpt/bql/connexion.do
 134
 135     inform "WGET cpt/connexion.do"
 136     fetch https://www.coopanet.com/banque/cpt/cpt/connexion.do
 137
 138     if grep -q "Vous venez de quitter  COOP@NET" $TMP; then
 139         echo "Can't log in. Check password" >&2
 140     fi
 141
 142     IFS=$'\n'
 143     accountsId=(`grep numeroExterne $TMP | grep hidden | cut -d \" -f 6`)
 144     accountsNames=(`grep "<td style=\"width:9%;\">" $TMP | cut -d ">" -f 2 | cut -d "<" -f 1`)
 145     accountsBalances=(`grep "Consulter votre relevé" $TMP | cut -d ">" -f 3 | cut -d "<" -f 1`)
 146     unset IFS
 147
 148     for idx in ${!accountsId[@]}; do
 149         account=${accountsId[$idx]}
 150         name=${accountsNames[$idx]}
 151         balance=${accountsBalances[$idx]}
 152         inform "$name $account $balance"
 153
 154         inform "WGET situationcomptes.do"
 155         fetch "--post-data=numeroExterne=$account&typeAction=2&btAction=OK" https://www.coopanet.com/banque/cpt/cpt/situationcomptes.do
 156
 157         dateFin=`grep dateFin $TMP | cut -d \" -f 10`
 158         inform "WGET selectiontelechargement.do"
 159         fetch "--post-data=format=3&dateDebut=01/01/2001&dateFin=$dateFin&btValider=Valider" https://www.coopanet.com/banque/cpt/cpt/selectiontelechargement.do
 160
 161         inform "WGET telechargement.do"
 162         ppath=`grep path $TMP | cut -d \" -f 6`
 163         fetch "--post-data=path=$ppath&zip=2&btConfirmer=Confirmer" https://www.coopanet.com/banque/cpt/cpt/telechargement.do
 164         tail -n +2 $TMP > $CCPATH/$account.`date +%Y%m%d`.csv
 165         rm -f $CCPATH/$account.last.csv
 166         ln -s $CCPATH/$account.`date +%Y%m%d`.csv $CCPATH/$account.last.csv
 167     done
 168
 169     # logout
 170     inform "WGET reconnect.do"
 171     fetch https://www.coopanet.com/banque/cpt/communs/reconnect.do
 172
 173     # delete tmp files
 174     rm -f $COOKIEJAR $TMP
 175 }
 176
 177
 178 # That function updates $account.csv files, adding the latest missing entries
 179 # It dumps on stdout the new lines
 180 function updatehistory() {
 181     inform "Updating complete csv files"
 182     # merge values in $account.csv
 183     for idx in ${!accountsId[@]}; do
 184         account=${accountsId[$idx]}
 185         name=${accountsNames[$idx]}
 186         balance=${accountsBalances[$idx]}
 187
 188         # get new lines into $account.new.csv
 189         diff -Nau $CCPATH/$account.last.csv $CCPATH/$account.csv | grep "^-" | grep -v "^---" | cut -c 2- > $CCPATH/$account.new.csv
 190
 191         # print new entries
 192         cat $CCPATH/$account.new.csv
 193
 194         cat $CCPATH/$account.csv >>$CCPATH/$account.new.csv
 195         mv $CCPATH/$account.new.csv $CCPATH/$account.csv
 196     done
 197 }
 198
 199 function atomize() {
 200     inform "Updating feeds"
 201     for idx in ${!accountsId[@]}; do
 202         account=${accountsId[$idx]}
 203         name=${accountsNames[$idx]}
 204         balance=${accountsBalances[$idx]}
 205
 206         "`dirname $0`/ccoop-atomize.py" "$account" "$name" "$balance" > $CCPATH/$account.atom
 207     done
 208 }
 209
 210
 211 umask 0077 # make sure the generated files are only readable by the user
 212
 213 if [[ -n $isconfig ]]; then
 214     doconfig
 215 fi
 216 if [[ -n $isunconfig ]]; then
 217     dounconfig
 218 fi
 219
 220 # Make sure our temporary files are deleted on error and on exit
 221 trap "rm -f $COOKIEJAR $TMP; exit" INT TERM EXIT
 222
 223 if [[ `ls -l $CCPATH/config | cut -c 8-10` != "---" ]]; then
 224     echo "Security warning: config file should be chmod o-rwx" >&2
 225 fi
 226 if [[ ! -r $CCPATH/config ]]; then
 227     echo "Use '%0 --config'"
 228 fi
 229 source $CCPATH/config
 230
 231 if [[ -n $log ]]; then
 232     inform "Warning, $LOGFILE will contain sensitive information. You should delete it."
 233 fi
 234
 235
 236 fetchall
 237 updatehistory
 238 atomize
 239