Python響應(yīng)對象text屬性亂碼解決方案
在獲得網(wǎng)頁響應(yīng)對象res后,使用res.text屬性可以獲得網(wǎng)頁源代碼,但可能出現(xiàn)亂碼!因為requests庫會使用自動猜測的解碼方式將抓取的網(wǎng)頁源碼進行解碼,然后存儲到res對象的text屬性中;
但有的網(wǎng)站的編碼格式和requests庫默認的解碼格式()不一樣(比如gbk gb2312是gbk的子集),這時候就要自己手動進行解碼,先獲得content屬性,返回的是bytes類型的字符串,再進行解碼decode(“網(wǎng)頁的編碼
格式”)
這時候可能出現(xiàn)新的問題
'gbk' codec can't decode byte 0xd0 in position 15264: illegal multibyte sequence
這是因為遇到了非法字符
比如網(wǎng)頁中有這種字符

全角空格往往有多種不同的實現(xiàn)方式,比如\xa3\xa0,或者\xa4\x57,這些 字符,看起來都是全角空格,但它們并不是“合法”的全角空格(真正的全角空格是\xa1\xa1),因此在轉(zhuǎn)碼的過程中出現(xiàn)了異常。
只要字符串中出現(xiàn)了一個非法字符,整篇文章就都無法轉(zhuǎn)碼。
對于這種字符,根本不需要,不重要!
解決方法:在解碼時候指定errors參數(shù),
decode()的函數(shù)原型是decode([encoding], [errors='strict']),可以用第二個參數(shù)控制錯誤處理的策略,默認的參數(shù)是strict,代表遇到非法字符時拋出異常;
- 如果設(shè)置為ignore,則會忽略非法字符;
- 如果設(shè)置為replace,則會用?取代非法字符;
- 如果設(shè)置為xmlcharrefreplace,則使用XML的字符引用
#requests庫默認會使用自己猜測的解碼方式將抓取下來的網(wǎng)頁進行解碼,然后存儲到text屬性上去;
#但在該網(wǎng)站中,編碼方式和默認的解碼方式不一樣,就會產(chǎn)生亂碼,所以要手動進行解碼,先獲得content再decode()解碼
#右鍵查看網(wǎng)頁源代碼,發(fā)現(xiàn)是gb2312編碼,gb2312就是gbk的子集,所以用decode("gbk")
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習有所幫助,也希望大家多多支持腳本之家。
- python中@property和property函數(shù)常見使用方法示例
- Python @property使用方法解析
- python3.6中@property裝飾器的使用方法示例
- Python如何使用@property @x.setter及@x.deleter
- Python @property及getter setter原理詳解
- python @property的用法及含義全面解析
- 實例講解Python編程中@property裝飾器的用法
- Python 私有屬性和私有方法應(yīng)用場景分析
- Python類及獲取對象屬性方法解析
- 什么是python類屬性
- Python轉(zhuǎn)換字典成為對象,可以用"."方式訪問對象屬性實例
- Python獲取對象屬性的幾種方式小結(jié)
- 屬性與 @property 方法讓你的python更高效
相關(guān)文章
Python使用pymysql模塊操作mysql增刪改查實例分析
這篇文章主要介紹了Python使用pymsql模塊操作mysql增刪改查,結(jié)合實例形式分析了Python使用pymsql模塊針對mysql進行增刪改查操作的相關(guān)實現(xiàn)方法與操作注意事項,需要的朋友可以參考下2019-12-12

