src/lib/internet.cc

   1 /*
   2     Copyright (C) 2014-2015 Carl Hetherington <cth@carlh.net>
   3
   4     This file is part of DCP-o-matic.
   5
   6     DCP-o-matic is free software; you can redistribute it and/or modify
   7     it under the terms of the GNU General Public License as published by
   8     the Free Software Foundation; either version 2 of the License, or
   9     (at your option) any later version.
  10
  11     DCP-o-matic is distributed in the hope that it will be useful,
  12     but WITHOUT ANY WARRANTY; without even the implied warranty of
  13     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14     GNU General Public License for more details.
  15
  16     You should have received a copy of the GNU General Public License
  17     along with DCP-o-matic.  If not, see <http://www.gnu.org/licenses/>.
  18
  19 */
  20
  21 #include "scoped_temporary.h"
  22 #include "compose.hpp"
  23 #include "safe_stringstream.h"
  24 #include "exceptions.h"
  25 #include <curl/curl.h>
  26 #include <zip.h>
  27 #include <boost/function.hpp>
  28 #include <boost/optional.hpp>
  29 #include <boost/filesystem.hpp>
  30 #include <boost/algorithm/string.hpp>
  31 #include <string>
  32
  33 #include "i18n.h"
  34
  35 using std::string;
  36 using std::list;
  37 using boost::optional;
  38 using boost::function;
  39 using boost::algorithm::trim;
  40
  41 static size_t
  42 get_from_zip_url_data (void* buffer, size_t size, size_t nmemb, void* stream)
  43 {
  44         FILE* f = reinterpret_cast<FILE*> (stream);
  45         return fwrite (buffer, size, nmemb, f);
  46 }
  47
  48 /** @param url URL of ZIP file.
  49  *  @param file Filename within ZIP file.
  50  *  @param load Function passed a (temporary) filesystem path of the unpacked file.
  51  */
  52 optional<string>
  53 get_from_zip_url (string url, string file, bool pasv, function<void (boost::filesystem::path)> load)
  54 {
  55         /* Download the ZIP file to temp_zip */
  56         CURL* curl = curl_easy_init ();
  57         curl_easy_setopt (curl, CURLOPT_URL, url.c_str ());
  58
  59         ScopedTemporary temp_zip;
  60         FILE* f = temp_zip.open ("wb");
  61         curl_easy_setopt (curl, CURLOPT_WRITEFUNCTION, get_from_zip_url_data);
  62         curl_easy_setopt (curl, CURLOPT_WRITEDATA, f);
  63         curl_easy_setopt (curl, CURLOPT_FTP_USE_EPSV, 0);
  64         curl_easy_setopt (curl, CURLOPT_FTP_USE_EPRT, 0);
  65         if (!pasv) {
  66                 curl_easy_setopt (curl, CURLOPT_FTPPORT, "-");
  67         }
  68
  69         /* Maximum time is 20s */
  70         curl_easy_setopt (curl, CURLOPT_TIMEOUT, 20);
  71
  72         CURLcode const cr = curl_easy_perform (curl);
  73
  74         temp_zip.close ();
  75         curl_easy_cleanup (curl);
  76         if (cr != CURLE_OK) {
  77                 return String::compose (_("Download failed (%1/%2 error %3)"), url, file, cr);
  78         }
  79
  80         /* Open the ZIP file and read `file' out of it */
  81
  82         struct zip* zip = zip_open (temp_zip.c_str(), 0, 0);
  83         if (!zip) {
  84                 return optional<string> (_("Could not open downloaded ZIP file"));
  85         }
  86
  87         struct zip_file* zip_file = zip_fopen (zip, file.c_str(), 0);
  88         if (!zip_file) {
  89                 return optional<string> (_("Unexpected ZIP file contents"));
  90         }
  91
  92         ScopedTemporary temp_cert;
  93         f = temp_cert.open ("wb");
  94         char buffer[4096];
  95         while (true) {
  96                 int const N = zip_fread (zip_file, buffer, sizeof (buffer));
  97                 fwrite (buffer, 1, N, f);
  98                 if (N < int (sizeof (buffer))) {
  99                         break;
 100                 }
 101         }
 102         temp_cert.close ();
 103
 104         load (temp_cert.file ());
 105         return optional<string> ();
 106 }
 107
 108 static size_t
 109 ftp_ls_data (void* buffer, size_t size, size_t nmemb, void* data)
 110 {
 111         string* s = reinterpret_cast<string *> (data);
 112         uint8_t* b = reinterpret_cast<uint8_t *> (buffer);
 113         for (size_t i = 0; i < (size * nmemb); ++i) {
 114                 *s += b[i];
 115         }
 116         return size * nmemb;
 117 }
 118
 119 list<string>
 120 ftp_ls (string url, bool pasv)
 121 {
 122         CURL* curl = curl_easy_init ();
 123         if (!curl) {
 124                 throw NetworkError ("could not set up curl");
 125         }
 126
 127         if (url.substr (url.length() - 1, 1) != "/") {
 128                 url += "/";
 129         }
 130         curl_easy_setopt (curl, CURLOPT_URL, url.c_str ());
 131         /* 20s timeout */
 132         curl_easy_setopt (curl, CURLOPT_TIMEOUT, 20);
 133
 134         string ls_raw;
 135         struct curl_slist* commands = 0;
 136         commands = curl_slist_append (commands, "NLST");
 137         curl_easy_setopt (curl, CURLOPT_POSTQUOTE, commands);
 138         curl_easy_setopt (curl, CURLOPT_WRITEDATA, &ls_raw);
 139         curl_easy_setopt (curl, CURLOPT_WRITEFUNCTION, ftp_ls_data);
 140         curl_easy_setopt (curl, CURLOPT_FTP_USE_EPSV, 0);
 141         curl_easy_setopt (curl, CURLOPT_FTP_USE_EPRT, 0);
 142         curl_easy_setopt (curl, CURLOPT_VERBOSE, 1);
 143         if (!pasv) {
 144                 curl_easy_setopt (curl, CURLOPT_FTPPORT, "-");
 145         }
 146         CURLcode const r = curl_easy_perform (curl);
 147         if (r != CURLE_OK) {
 148                 curl_easy_cleanup (curl);
 149                 throw NetworkError (curl_easy_strerror (r));
 150         }
 151
 152         SafeStringStream s (ls_raw);
 153         list<string> ls;
 154         while (s.good ()) {
 155                 string line = s.getline ();
 156                 trim (line);
 157                 if (line.length() > 55) {
 158                         string const file = line.substr (55);
 159                         if (file != "." && file != "..") {
 160                                 ls.push_back (file);
 161                         }
 162                 }
 163         }
 164
 165         curl_easy_cleanup (curl);
 166
 167         return ls;
 168 }