国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

居然有比requests更強大Python庫出現

阿銘linux ? 來源:努力編程小伙 ? 作者:努力編程小伙 ? 2021-07-27 10:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近公司 Python 后端項目進行重構,整個后端邏輯基本都變更為采用“異步”協程的方式實現。看著滿屏幕經過 async await(協程在 Python 中的實現)修飾的代碼,我頓時感到一臉懵逼,不知所措。

雖然之前有了解過“協程”是什么東西,但并沒有深入探索,于是正好借著這次機會可以好好學習一下。

什么是協程?

簡單來說,協程是一種基于線程之上,但又比線程更加輕量級的存在。對于系統內核來說,協程具有不可見的特性,所以這種由 程序員自己寫程序來管理 的輕量級線程又常被稱作 “用戶空間線程”。

協程比多線程好在哪呢?

1. 線程的控制權在操作系統手中,而 協程的控制權完全掌握在用戶自己手中,因此利用協程可以減少程序運行時的上下文切換,有效提高程序運行效率。

2. 建立線程時,系統默認分配給線程的 棧 大小是 1 M,而協程更輕量,接近 1 K 。因此可以在相同的內存中開啟更多的協程。

3. 由于協程的本質不是多線程而是單線程,所以不需要多線程的鎖機制。因為只有一個線程,也不存在同時寫變量而引起的沖突。在協程中控制共享資源不需要加鎖,只需要判斷狀態即可。所以協程的執行效率比多線程高很多,同時也有效避免了多線程中的競爭關系。

協程的適用 & 不適用場景

適用場景:協程適用于被阻塞的,且需要大量并發的場景。

不適用場景:協程不適用于存在大量計算的場景(因為協程的本質是單線程來回切換),如果遇到這種情況,還是應該使用其他手段去解決。

初探異步 http 框架 httpx

至此我們對 “協程” 應該有了個大概的了解,但故事說到這里,相信有朋友還是滿臉疑問:“協程” 對于接口測試有什么幫助呢?不要著急,答案就在下面。

相信用過 Python 做接口測試的朋友都對 requests 庫不陌生。requests 中實現的 http 請求是同步請求,但其實基于 http 請求 IO 阻塞的特性,非常適合用協程來實現 “異步” http 請求從而提升測試效率。

相信早就有人注意到了這點,于是在 Github 經過了一番探索后,果不其然,最終尋找到了支持協程 “異步” 調用 http 的開源庫: httpx

什么是 httpx

httpx 是一個幾乎繼承了所有 requests 的特性并且支持 “異步” http 請求的開源庫。簡單來說,可以認為 httpx 是強化版 requests。

下面大家可以跟著我一起見識一下 httpx 的強大

安裝

httpx 的安裝非常簡單,在 Python 3.6 以上的環境執行

pip install httpx

最佳實踐

俗話說得好,效率決定成敗。我分別使用了 httpx 異步 和 同步 的方式對批量 http 請求進行了耗時比較,來一起看看結果吧~

首先來看看同步 http 請求的耗時表現:

import asyncioimport httpximport threadingimport time

def sync_main(url, sign): response = httpx.get(url).status_code print(f‘sync_main: {threading.current_thread()}: {sign}: {response}’)

sync_start = time.time()[sync_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]sync_end = time.time()print(sync_end - sync_start)

代碼比較簡單,可以看到在 sync_main 中則實現了同步 http 訪問百度 200 次。

運行后輸出如下(截取了部分關鍵輸出。。。):

sync_main: 《_MainThread(MainThread, started 4471512512)》: 192: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 194: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 195: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 196: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 197: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 198: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 199: 20016.56578803062439

可以看到在上面的輸出中, 主線程沒有進行切換(因為本來就是單線程啊喂!)請求按照順序執行(因為是同步請求)。

程序運行共耗時 16.6 秒

下面我們試試 “異步” http 請求:

import asyncioimport httpximport threadingimport time

client = httpx.AsyncClient()

async def async_main(url, sign): response = await client.get(url) status_code = response.status_code print(f‘async_main: {threading.current_thread()}: {sign}:{status_code}’)

loop = asyncio.get_event_loop()tasks = [async_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]async_start = time.time()loop.run_until_complete(asyncio.wait(tasks))async_end = time.time()loop.close()print(async_end - async_start)

上述代碼在 async_main 中用 async await 關鍵字實現了“異步” http,通過 asyncio ( 異步 io 庫請求百度首頁 200 次并打印出了耗時。

運行代碼后可以看到如下輸出(截取了部分關鍵輸出。。。)

async_main: 《_MainThread(MainThread, started 4471512512)》: 56: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 99: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 67: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 93: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 125: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 100: 2004.518340110778809

可以看到順序雖然是亂的(56,99,67.。。) (這是因為程序在協程間不停切換) 但是主線程并沒有切換 (協程本質還是單線程 )。

程序共耗時 4.5 秒

比起同步請求耗時的 16.6 秒 縮短了接近 73 %!

俗話說得好,一步快,步步快。 在耗時方面,“異步” http 確實比同步 http 快了很多。當然,“協程” 不僅僅能在請求效率方面賦能接口測試, 掌握 “協程”后,相信小伙伴們的技術水平也能提升一個臺階,從而設計出更優秀的測試框架。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • python
    +關注

    關注

    57

    文章

    4876

    瀏覽量

    90029

原文標題:比 requests 更強大 Python 庫,讓你的爬蟲效率提高一倍

文章出處:【微信號:aming_linux,微信公眾號:阿銘linux】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    如何在 Vision Five 2 上安裝 python

    這可能是一個完全愚蠢的問題,但我如何在 Vision Five 2 上安裝 python 。 使用該命令后,它給了我這個錯誤。 默認為用戶安裝,因為普通站點包不可寫 錯誤:找不到滿足要求
    發表于 03-06 07:51

    無法去除 Python VisionFive.i2c 的終端輸出?

    燒的官方最新八月份的 debian 12 的系統。 根據這個案例安裝好了 python 環境和 VisionFive 。 執行下面這條代碼: import VisionFive.i2c
    發表于 02-25 06:13

    1688 商品詳情 API 調用與數據解析 Python 實戰

    的 1688 API 接入流程); 安裝 Python 依賴: bash 運行 ? pip install requests # 發送HTTP請求pip install
    的頭像 發表于 02-10 11:23 ?254次閱讀

    軟通動力與居然之家深化戰略合作

    1月19日,軟通動力信息技術(集團)股份有限公司與居然智家新零售集團股份有限公司在北京居然大廈簽署戰略合作協議,共同宣告將雙方合作全面升級至“戰略合作2.0”新階段。雙方將整合各自優勢資源,圍繞數智化轉型升級、全球化市場聯合拓展、生態空間建設等領域展開深度合作,共同推動行
    的頭像 發表于 01-21 16:17 ?382次閱讀

    小紅書筆記詳情API接口指南

    2.x and python3.x requirement: pip install requests """ from __future__ import print_function import
    的頭像 發表于 12-03 09:39 ?754次閱讀

    Python調用API教程

    兩個不同系統之間的信息交互。在這篇文章中,我們將詳細介紹Python調用API的方法和技巧。 一、用Requests發送HTTP請求 使用Python調用API的第一步是發送HTTP
    的頭像 發表于 11-03 09:15 ?876次閱讀

    目前最新版的userapps如何安裝D1s環境?

    recent call last): File \"/usr/lib/python3/dist-packages/requests/adapters.py\", line 439
    發表于 09-25 07:33

    termux如何搭建python游戲

    效率提升 為提升編碼體驗,需配置終端工具與遠程連接: 1. Shell與主題配置 - 切換至zsh:功能更強大的命令行解釋器,支持插件擴展: ```bash sh -c \"
    發表于 08-29 07:06

    C++ 與 Python:樹莓派上哪種語言更優?

    Python是樹莓派上的首選編程語言,我們的大部分教程都使用它。然而,C++在物聯網項目中同樣廣受歡迎且功能強大。那么,在樹莓派項目中選擇哪種語言更合適呢?Python因其簡潔性、豐富的
    的頭像 發表于 07-24 15:32 ?947次閱讀
    C++ 與 <b class='flag-5'>Python</b>:樹莓派上哪種語言更優?

    linux虛擬環境中調用Linux 版matlab編譯的python時出錯

    matlab代碼編譯為CAO_pythonpython,其中cp_Main_python.m為入口文件,編譯后生成的文件有mccExcludedFiles.log、setup.py
    發表于 07-18 10:40

    基于AMD Versal器件實現PCIe5 DMA功能

    Versal是AMD 7nm的SoC高端器件,不僅擁有比16nm性能更強的邏輯性能,并且其PS系統中的CPM PCIe也較上一代MPSoC PS硬核PCIe單元強大得多。本節將基于AMD官方開發板展示如何快速部署PCIe5x8
    的頭像 發表于 06-19 09:44 ?1836次閱讀
    基于AMD Versal器件實現PCIe5 DMA功能

    python入門圣經-高清電子書(建議下載)

    和Pygal 等強大Python 和工具介紹,以及列表、字典、if 語句、類、文件與異常、代碼測試等內容; 第二部分將理論付諸實踐,講解如何開發三個項目,包括簡單的Python
    發表于 04-10 16:53

    ?如何在虛擬環境中使用 Python,提升你的開發體驗~

    。RaspberryPiOS預裝了Python3。干擾系統Python的安裝可能會給你的操作系統帶來問題。安裝第三方Python時,請務必使用正確的包管理工具。在Lin
    的頭像 發表于 03-25 09:34 ?811次閱讀
    ?如何在虛擬環境中使用 <b class='flag-5'>Python</b>,提升你的開發體驗~

    零基礎入門:如何在樹莓派上編寫和運行Python程序?

    在這篇文章中,我將為你簡要介紹Python程序是什么、Python程序可以用來做什么,以及如何在RaspberryPi上編寫和運行一個簡單的Python程序。什么是Python程序?
    的頭像 發表于 03-25 09:27 ?2033次閱讀
    零基礎入門:如何在樹莓派上編寫和運行<b class='flag-5'>Python</b>程序?

    Python在嵌入式系統中的應用場景

    你想把你的職業生涯提升到一個新的水平?Python在嵌入式系統中正在成為一股不可缺少的新力量。盡管傳統上嵌入式開發更多地依賴于C和C++語言,Python的優勢在于其簡潔的語法、豐富的和快速的開發周期,這使得它在某些嵌入式場景
    的頭像 發表于 03-19 14:10 ?1494次閱讀