我的目标是编写一个python脚本,将艺术家的名字作为字符串输入,然后将其附加到genius搜索的基本URL中询问。那么从返回的网页链接中检索所有歌词(这是此问题的必需子集,它还将在其中的每个链接中具体包含艺术家姓名)我现在正处于初始阶段,只是能够从网页中检索到所有的链接,包括那些我不想在我的子集中出现的链接。我试图找到一个简单的解决办法,但一直失败。在import requests
# The Requests library.
from bs4 import BeautifulSoup
from lxml import html
user_input = input("Enter Artist Name = ").replace(" ","+")
base_url = "https://genius.com/search?q="+user_input
header = {'User-Agent':''}
response = requests.get(base_url, headers=header)
soup = BeautifulSoup(response.content, "lxml")
for link in soup.find_all('a',href=True):
print (link['href'])
这将返回这个完整的列表,而我只需要那些以歌词和艺术家的名字结尾的列表(这里例如德雷克)。这些将从我应该能够检索歌词的链接。在
^{pr2}$
我的下一步是使用selenium来模拟scroll天才网给出整个搜索结果集。任何建议或资源将不胜感激。我还想就我希望如何处理这一解决办法发表几点意见。我们能让它更通用吗?在
注:我可能没有很清楚地解释我的问题,但我已经尽力了。此外,任何含糊不清的地方也受欢迎。我对scraping、python和编程都是新手,我只想确保我走的是正确的道路。在