Hướng dẫn how do you automate the download of a file from a website with python? - làm cách nào để bạn tự động tải xuống tệp từ một trang web bằng python?

Bạn không cần sử dụng urllib.URLopener(), chỉ cần sử dụng urllib.urlretrieve() như sau:

Có thể bạn quan tâm

import urllib
urllib.urlretrieve("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

Bạn cũng có thể sử dụng wget:

Bạn Đang Xem: Hướng dẫn how do you automate the download of a file from a website with python? – làm cách nào để bạn tự động tải xuống tệp từ một trang web bằng python?

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

Và về việc tự động hóa nó để tải xuống hàng ngày, bạn có thể sử dụng trình lập lịch Windows hoặc sử dụng loop như sau:

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

Yêu cầu là một thư viện HTTP đa năng trong Python với các ứng dụng khác nhau. Một trong những ứng dụng của nó là tải xuống một tệp từ Web bằng tệp URL.installation: Trước hết, bạn sẽ cần tải xuống thư viện yêu cầu. Bạn có thể trực tiếp cài đặt nó bằng PIP bằng cách nhập lệnh sau:
Installation: First of all, you would need to download the requests library. You can directly install it using pip by typing following command:

pip install requests

Hoặc tải xuống trực tiếp từ đây và cài đặt thủ công.

Tải tập tin

Món mã nhỏ được viết ở trên sẽ tải xuống hình ảnh sau từ web. Bây giờ hãy kiểm tra thư mục cục bộ của bạn (thư mục nơi tập lệnh này cư trú) và bạn sẽ tìm thấy hình ảnh này:

Tất cả những gì chúng ta cần là URL của nguồn hình ảnh. (Bạn có thể lấy URL của nguồn hình ảnh bằng cách nhấp chuột phải vào hình ảnh và chọn tùy chọn xem hình ảnh.)

Tải xuống các tập tin lớn

Nội dung phản hồi HTTP (R.Content) không là gì ngoài một chuỗi đang lưu trữ dữ liệu tệp. Vì vậy, nó đã giành chiến thắng để lưu tất cả dữ liệu trong một chuỗi trong trường hợp các tệp lớn. Để khắc phục vấn đề này, chúng tôi thực hiện một số thay đổi cho chương trình của mình:r.content) is nothing but a string which is storing the file data. So, it won’t be possible to save all the data in a single string in case of large files. To overcome this problem, we do some changes to our program:

Vì tất cả dữ liệu tệp có thể được lưu trữ bởi một chuỗi duy nhất, chúng tôi sử dụng phương thức r.iter_content để tải dữ liệu theo khối, chỉ định kích thước chunk.r.iter_content method to load data in chunks, specifying the chunk size.

 r = requests.get(URL, stream = True)

Đặt tham số luồng thành true sẽ chỉ khiến việc tải xuống các tiêu đề phản hồi và kết nối vẫn mở. Điều này tránh đọc tất cả nội dung cùng một lúc vào bộ nhớ cho các phản hồi lớn. Một khối cố định sẽ được tải mỗi lần trong khi r.iter_content được lặp lại.stream
parameter to True will cause the download of response headers only and the connection remains open. This avoids reading the content all at once into memory for large responses. A fixed chunk will be loaded each time while r.iter_content is iterated.

Đây là một ví dụ:

Tải xuống video

Trong ví dụ này, chúng tôi quan tâm đến việc tải xuống tất cả các bài giảng video có sẵn trên trang web này. Tất cả các tài liệu lưu trữ của bài giảng này có sẵn ở đây. Vì vậy, trước tiên chúng tôi xóa trang web để trích xuất tất cả các liên kết video và sau đó tải xuống từng video.

import

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

2import

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

Xem Thêm : nuggers là gì – Nghĩa của từ nuggers

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

Xem Thêm : Việt Nam đã phê chuẩn Công ước Liên hợp quốc về quyền trẻ em vào ngày nào

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

Xem Thêm : Việt Nam đã phê chuẩn Công ước Liên hợp quốc về quyền trẻ em vào ngày nào

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

pip install requests

pip install requests

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

pip install requests

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

pip install requests

pip install requests

pip install requests

Xem Thêm : Việt Nam đã phê chuẩn Công ước Liên hợp quốc về quyền trẻ em vào ngày nào

pip install requests

9__4041

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

7urllib.URLopener()2 urllib.URLopener()3

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

5 urllib.URLopener()5

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

 r = requests.get(URL, stream = True)

 r = requests.get(URL, stream = True)

 r = requests.get(URL, stream = True)

3 urllib.urlretrieve()0

urllib.urlretrieve()1urllib.urlretrieve()2

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

9 urllib.urlretrieve()4urllib.urlretrieve()5urllib.urlretrieve()6urllib.urlretrieve()7urllib.urlretrieve()8

‘

urllib.urlretrieve()1

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

Xem Thêm : Việt Nam đã phê chuẩn Công ước Liên hợp quốc về quyền trẻ em vào ngày nào

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

9 wget9

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

9 loop1

import urllib
import time
while True:
    urllib.urlretrieve('file', 'file')
    time.sleep(86400) # 86400 seconds = 24 hours.

urllib.urlretrieve()1loop4loop5loop6loop7loop8

loop9

 r = requests.get(URL, stream = True)

1 import1

 r = requests.get(URL, stream = True)

3 import3__

import9

 r = requests.get(URL, stream = True)

Xem Thêm : nuggers là gì – Nghĩa của từ nuggers

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

urllib.urlretrieve()1wget1wget2

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

07wget4

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

7wget1

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

122____113

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

7urllib.URLopener()2

 r = requests.get(URL, stream = True)

Xem Thêm : nuggers là gì – Nghĩa của từ nuggers

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

pip install requests

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

import wget
wget.download("https://www.nseindia.com/products/content/historical/EQUITIES/2017/JUN?cm23JUN2017bhav.csv.zip8", "file.zip8")

Ưu điểm của việc sử dụng thư viện yêu cầu để tải xuống các tệp web là:

Người ta có thể dễ dàng tải xuống các thư mục web bằng cách lặp lại đệ quy thông qua trang web!
Đây là một phương pháp độc lập với trình duyệt và nhanh hơn nhiều!
Người ta có thể chỉ cần xóa một trang web để lấy tất cả các URL tệp trên trang web và do đó, tải xuống tất cả các tệp trong một lệnh-
Thực hiện quét web trong Python với BeautifulSoup

Blog này được đóng góp bởi Nikhil Kumar. Nếu bạn thích GeekSforGeeks và muốn đóng góp, bạn cũng có thể viết một bài viết bằng Write.GeekSforGeek.org hoặc gửi bài viết của bạn. Xem bài viết của bạn xuất hiện trên trang chính của GeekSforGeek và giúp các chuyên viên máy tính khác.

Vui lòng viết nhận xét nếu bạn tìm thấy bất cứ điều gì không chính xác, hoặc bạn muốn chia sẻ thêm thông tin về chủ đề được thảo luận ở trên.

Xem Tắt

Làm thế nào để tôi nhận được Python để tự động tải xuống từ một trang web?

Để tải xuống một tệp từ URL bằng Python, hãy làm theo ba bước sau:.. Cài đặt mô -đun yêu cầu và nhập nó vào dự án của bạn .. Sử dụng yêu cầu. Nhận () để tải xuống dữ liệu đằng sau url đó .. Viết tệp vào tệp trong hệ thống của bạn bằng cách gọi Open () ..

Làm thế nào để bạn tạo một tệp có thể tải xuống trong Python?

Nhập mô -đun. Nhập yêu cầu .. Nhận liên kết hoặc URL. url = ‘https://www.facebook.com/favicon.ico’ r = requests.get (url, allow_redirects = true). Lưu nội dung với tên. Mở (‘Facebook.ICO’, ‘WB’). Viết (R.Content) lưu tệp dưới dạng Facebook. …. Nhận tên tệp từ một url. Để có được tên tệp, chúng ta có thể phân tích URL ..

Làm cách nào để tải xuống tệp CSV từ một trang web sử dụng Python?

hàm read_csv () để tải xuống tệp CSV từ URL trong Python.Hàm read_csv () từ mô -đun Pandas có thể đọc các tệp CSV từ các nguồn khác nhau và lưu trữ kết quả trong khung dữ liệu gấu trúc.Chúng ta có thể sử dụng chức năng này để tải xuống các tệp CSV từ URL trong Python bằng cách cung cấp trực tiếp URL trong chức năng. to Download a CSV File From a URL in Python. The read_csv() function from the Pandas module can read CSV files from different sources and store the result in a Pandas DataFrame. We can use this function to download CSV files from a URL in Python by providing the URL within the function directly.

Làm thế nào để bạn tự động tải xuống một tệp từ một trang web bằng python selenium?

Cách tải xuống một tập tin bằng Selenium và Python.. Prerequisites:. Bước 1: Nhập các gói yêu cầu vào tập lệnh kiểm tra Python .. Bước 2: Đặt các tùy chọn Chrome .. Bước 3: Tạo đối tượng trình điều khiển Chrome với các tùy chọn .. Bước 4: Tạo tập lệnh để điều hướng đến trang web và nhấp vào tải xuống .csv .. Bước 5: Chạy bài kiểm tra ..

Nguồn: https://quatangtiny.com
Danh mục: Blog