想在自己寫的app上實作 動態爬蟲
但因為要先在頁面上做一些點擊,才會跑到我要爬蟲的頁面,所以不能使用Jsoup這些只能做靜態爬蟲的方法,想請問各位有甚麼建議嗎...QQ
您是用哪種語言寫的 ?
我是用 python 寫的爬蟲, 原本用 beautiful soup , PhantomJS .....
但要輸入一些互動的數值 , 改用 selenium.webdriver (請自行 google)
我於純 console 的 linux 下開虛擬桌面(xvfb) 開啟 chrome(ChromeDriver) , 發現這就是 自動化 網頁了 (自動輸入或互動輸入 , 得到不同的值 )
您使用Jsoup 應該是 java 的 , 相對的 java 也可用 selenium ....
我有找到 java 的文章 :