[已解决]小甲鱼新手教程ooxx这一节，按照小甲鱼的代码敲为什么不能爬虫

吃鱼的虾

代码如下：测试的时候在 def find_imgs(url) 函数中不能获取图片网址，不知道什么原因，求大神解答。
import urllib.request
import os

def url_open(url):
    req = urllib.request.Request(url)
    req.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36')
    response = urllib.request.urlopen(url)
    html = response.read()
   
    return html

def get_page(url):
    html=url_open(url).decode('utf-8')

    a=html.find('current-comment-page')+23
    b=html.find(']',a)

    return html[a:b]
   
def find_imgs(url):
   
    html=url_open(url).decode('utf-8')
    img_addrs = []

    a=html.find('img src=')

    while a != -1:
        b = html.find('.jpg',a,a+255)
        if b != -1:
            img_addrs.append(html[a+9:b+4])
            
        else:
            b=a+9

        a=html.find('img src=',b)

    return img_addrs
   
   

def save_imgs(folder,img_addrs):
    for each in img_addrs:
        filename=each.apilt('/')[-1]

        with open(filename,'wb') as f:
            img = open_url(each)
            f.write(img)

def downlaod_mm(folder='oooxx',pages=10):
    os.mkdir(folder)
    os.chdir(folder)

    url="http://jandan.net/ooxx/"
    page_num=int(get_page(url))

    for i in range(pages):
        page_num -= i
        page_url = url + 'page-'+str(page_num)+'#comments'
        img_addrs = find_imgs(page_url)
        save_imgs(folder,img_addrs)

if __name__ == '__main__':
    downlaod_mm()

最佳答案

月排行榜 / 总排行榜

wongyusing

2018-10-10 15:53:36

反爬了，5年前的代码已经不能用了。  
如果你要爬，需要抓取网页源代码的哈希值。  
然后通过下面的js代码进行编译后就可以获取真正的图片url地址了
注意，还是不行，原因是不知道这个网站从哪里调用了16进制的md5解密函数。  
所以换网站吧。

1. function md5(a) {
   
2.     return hex_md5(a) //找不到hex_md5都函数
   
3. }
   
4. var jd82tylpAK1P0Tvmga2rljssRTRVhio67x = function(n, t, e) {
   
5.     var f = "DECODE";
   
6.     var t = t ? t : "";
   
7.     var e = e ? e : 0;
   
8.     var r = 4;
   
9.     t = md5(t);
   
10.     var d = n;
    
11.     var p = md5(t.substr(0, 16));
    
12.     var o = md5(t.substr(16, 16));
    
13.     if (r) {
    
14.         if (f == "DECODE") {
    
15.             var m = n.substr(0, r)
    
16.         }
    
17.     } else {
    
18.         var m = ""
    
19.     }
    
20.     var c = p + md5(p + m);
    
21.     var l;
    
22.     if (f == "DECODE") {
    
23.         n = n.substr(r);
    
24.         l = base64_decode(n)
    
25.     }
    
26.     var k = new Array(256);
    
27.     for (var h = 0; h < 256; h++) {
    
28.         k[h] = h
    
29.     }
    
30.     var b = new Array();
    
31.     for (var h = 0; h < 256; h++) {
    
32.         b[h] = c.charCodeAt(h % c.length)
    
33.     }
    
34.     for (var g = h = 0; h < 256; h++) {
    
35.         g = (g + k[h] + b[h]) % 256;
    
36.         tmp = k[h];
    
37.         k[h] = k[g];
    
38.         k[g] = tmp
    
39.     }
    
40.     var u = "";
    
41.     l = l.split("");
    
42.     for (var q = g = h = 0; h < l.length; h++) {
    
43.         q = (q + 1) % 256;
    
44.         g = (g + k[q]) % 256;
    
45.         tmp = k[q];
    
46.         k[q] = k[g];
    
47.         k[g] = tmp;
    
48.         u += chr(ord(l[h]) ^ (k[(k[q] + k[g]) % 256]))
    
49.     }
    
50.     if (f == "DECODE") {
    
51.         if ((u.substr(0, 10) == 0 || u.substr(0, 10) - time() > 0) && u.substr(10, 16) == md5(u.substr(26) + o).substr(0, 16)) {
    
52.             u = u.substr(26)
    
53.         } else {
    
54.             u = ""
    
55.         }
    
56.         u = base64_decode(d)
    
57.     }
    
58.     return u
    
59. };
    
60. 
    
61. function jandan_load_img(b) {
    
62.     var d = $(b);
    
63.     var f = d.next("span.img-hash");
    
64.     var e = f.text();
    
65.     f.remove();
    
66.     var c = jd82tylpAK1P0Tvmga2rljssRTRVhio67x(e, "Bd7a2II4A1V50tQ92EKDtvTIUxJ9Smvt");
    
67.     var a = $('<a href="' + c.replace(/(\/\/\w+\.sinaimg\.cn\/)(\w+)(\/.+\.(gif|jpg|jpeg))/, "$1large$3") + '" target="_blank" class="view_img_link">[鏌ョ湅鍘熷浘]</a>');
    
68.     d.before(a);
    
69.     d.before("<br>");
    
70.     d.removeAttr("onload");
    
71.     d.attr("src", location.protocol + c.replace(/(\/\/\w+\.sinaimg\.cn\/)(\w+)(\/.+\.gif)/, "$1thumb180$3"));
    
72.     if (/\.gif$/.test(c)) {
    
73.         d.attr("org_src", location.protocol + c);
    
74.         b.onload = function() {
    
75.             add_img_loading_mask(this, load_sina_gif)
    
76.         }
    
77.     }
    
78. }

复制代码

跳转到最佳答案楼层

塔利班

反扒了，你打印下html就知道了

wongyusing

反爬了，5年前的代码已经不能用了。  
如果你要爬，需要抓取网页源代码的哈希值。  
然后通过下面的js代码进行编译后就可以获取真正的图片url地址了
注意，还是不行，原因是不知道这个网站从哪里调用了16进制的md5解密函数。  
所以换网站吧。

1. function md5(a) {
   
2.     return hex_md5(a) //找不到hex_md5都函数
   
3. }
   
4. var jd82tylpAK1P0Tvmga2rljssRTRVhio67x = function(n, t, e) {
   
5.     var f = "DECODE";
   
6.     var t = t ? t : "";
   
7.     var e = e ? e : 0;
   
8.     var r = 4;
   
9.     t = md5(t);
   
10.     var d = n;
    
11.     var p = md5(t.substr(0, 16));
    
12.     var o = md5(t.substr(16, 16));
    
13.     if (r) {
    
14.         if (f == "DECODE") {
    
15.             var m = n.substr(0, r)
    
16.         }
    
17.     } else {
    
18.         var m = ""
    
19.     }
    
20.     var c = p + md5(p + m);
    
21.     var l;
    
22.     if (f == "DECODE") {
    
23.         n = n.substr(r);
    
24.         l = base64_decode(n)
    
25.     }
    
26.     var k = new Array(256);
    
27.     for (var h = 0; h < 256; h++) {
    
28.         k[h] = h
    
29.     }
    
30.     var b = new Array();
    
31.     for (var h = 0; h < 256; h++) {
    
32.         b[h] = c.charCodeAt(h % c.length)
    
33.     }
    
34.     for (var g = h = 0; h < 256; h++) {
    
35.         g = (g + k[h] + b[h]) % 256;
    
36.         tmp = k[h];
    
37.         k[h] = k[g];
    
38.         k[g] = tmp
    
39.     }
    
40.     var u = "";
    
41.     l = l.split("");
    
42.     for (var q = g = h = 0; h < l.length; h++) {
    
43.         q = (q + 1) % 256;
    
44.         g = (g + k[q]) % 256;
    
45.         tmp = k[q];
    
46.         k[q] = k[g];
    
47.         k[g] = tmp;
    
48.         u += chr(ord(l[h]) ^ (k[(k[q] + k[g]) % 256]))
    
49.     }
    
50.     if (f == "DECODE") {
    
51.         if ((u.substr(0, 10) == 0 || u.substr(0, 10) - time() > 0) && u.substr(10, 16) == md5(u.substr(26) + o).substr(0, 16)) {
    
52.             u = u.substr(26)
    
53.         } else {
    
54.             u = ""
    
55.         }
    
56.         u = base64_decode(d)
    
57.     }
    
58.     return u
    
59. };
    
60. 
    
61. function jandan_load_img(b) {
    
62.     var d = $(b);
    
63.     var f = d.next("span.img-hash");
    
64.     var e = f.text();
    
65.     f.remove();
    
66.     var c = jd82tylpAK1P0Tvmga2rljssRTRVhio67x(e, "Bd7a2II4A1V50tQ92EKDtvTIUxJ9Smvt");
    
67.     var a = $('<a href="' + c.replace(/(\/\/\w+\.sinaimg\.cn\/)(\w+)(\/.+\.(gif|jpg|jpeg))/, "$1large$3") + '" target="_blank" class="view_img_link">[鏌ョ湅鍘熷浘]</a>');
    
68.     d.before(a);
    
69.     d.before("<br>");
    
70.     d.removeAttr("onload");
    
71.     d.attr("src", location.protocol + c.replace(/(\/\/\w+\.sinaimg\.cn\/)(\w+)(\/.+\.gif)/, "$1thumb180$3"));
    
72.     if (/\.gif$/.test(c)) {
    
73.         d.attr("org_src", location.protocol + c);
    
74.         b.onload = function() {
    
75.             add_img_loading_mask(this, load_sina_gif)
    
76.         }
    
77.     }
    
78. }

复制代码