python - 使用 BeautifulSoup 和 Python 语法选择、输入和解析?

标签 python parsing beautifulsoup html-parsing lxml

我对 BeautifulSoup 和 python 开发完全是新手,我想编写一个脚本来为我的个人网站实现一些自动化操作。

我做这个:

#!/usr/bin/env python

""" Test menu for Website
"""

import urllib2
from bs4 import BeautifulSoup

print (47 * '-')
print ("   C H O I C E   L I S T")
print (47 * '-')
print ("1. Page One")
print ("2. Page Two")
print ("3. Page Three")
print ("4. Page Four")
print (47 * '-')
print (47 * '-')

#############################
##  Robust error handling  ##
##  only accpet int        ##
#############################
## Wait for valid input in while...not ###

is_valid=0

while not is_valid :
        try :
                choice = int ( raw_input('Enter your choice [1-8] : ') )
                is_valid = 1 ## set it to 1 to validate input and to terminate the while..not loop
        except ValueError, e :
                print ("'%s' is not a valid choice." % e.args[0].split(": ")[1])


### Take action as per selected choice list option ###

if choice == 1:
        print ("www.mywebsite.com/page_one.html")
elif choice == 2:
        print ("www.mywebsite.com/page_two.html")
elif choice == 3:
        print ("www.mywebsite.com/page_three.html")
elif choice == 4:
        print ("www.mywebsite.com/page_four.html")
else:
        print ("Invalid choice. try again...")

print (47 * '-')
print (47 * '-')


username = raw_input("Please, type your username\n")


html_content = urllib2.urlopen("http://" + [choice] + "/" + username)

soup = BeautifulSoup(html_content, "lxml")

#####################
## STRINGS REPLACE ##
#####################

start_msg = "Hey, you have "
end_msg = "comments !"
end_str = "read !"


####################
## COMMENTS COUNT ##
####################

count_comments = soup.find("span", "sidebar-comments")
count_comments
count_comments_final = count_comments.find_next("meta")


################
## COUNT READ ##
################

count_read = soup.find("span", "sidebar-read")
count_read
count_read_final = count_read.find_next("meta")



##################
## PRINT RESULT ##
##################

print start_msg + count_comments_final['content'].split(':')[1] + end_msg
print start_msg + count_read_final['content'].split(':')[1] + end_str

通过这个脚本,我想要:

1 - 选择我的网页(选择列表 - 4)

2 - 输入我的用户名

3 - 解析我选择的网页并获取所有评论和所有阅读的计数。

我的问题在这里 html_content = urllib2.urlopen("http://"+ [choice] + username) ,我无法检索良好 URL 所需的参数!

你能帮我找到正确的语法吗!

我的最终网址应该是:http://www.mywebsite.com/page_one.html/username

最佳答案

这是一个奇怪的 URL,但您唯一需要的是将 URL 存储在变量中并重复使用。

另外,我会使用字典来映射 int 选择和实际的 url:

mapping = {
    1: 'www.mywebsite.com/page_one.html',
    2: 'www.mywebsite.com/page_two.html', 
    3: 'www.mywebsite.com/page_three.html',
    4: 'www.mywebsite.com/page_four.html'
}

try:
    page = mapping[choice]
except KeyError:
    print ("Invalid choice. try again...")
    # TODO: try again? :)

username = raw_input("Please, type your username\n")

url = "http://{page}/{username}".format(page=page, username=username)
html_content = urllib2.urlopen(url)

关于python - 使用 BeautifulSoup 和 Python 语法选择、输入和解析?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26052375/

相关文章:

python - PIL仅保存第一张图像

parsing - 通过修剪句子来减少斯坦福解析器的解析时间

parsing - 如何将 ANTLR 语法文件拆分为多个文件

python - 当有另一个类似的 div 类时如何处理特定的 div 类?

python - BeautifulSoup 在 Amazon ID 元素上返回 None

python - 将输入发送到直接输入(如游戏)

python - 从列表python中的字典内的值减去

java - 在java中解析日期json响应

python - cPanel 中的 Cronjob 找不到 BeautifulSoup4 模块

python - Django ArrayField 追加,避免竞争条件