python怎么爬取数据保存到数据库 - 问答

要将爬取的数据保存到数据库，可以使用Python的数据库模块（如SQLite、MySQL、MongoDB等）将数据插入到数据库中。以下是一个使用SQLite数据库保存爬取数据的示例：

首先，需要安装sqlite3模块。可以使用以下命令进行安装：

pip install pysqlite3

然后，可以使用以下代码示例将爬取的数据保存到SQLite数据库中：

import sqlite3
# 连接到数据库
conn = sqlite3.connect('data.db')
cursor = conn.cursor()
# 创建数据表
cursor.execute('CREATE TABLE IF NOT EXISTS data (id INTEGER PRIMARY KEY AUTOINCREMENT, title TEXT, content TEXT)')
# 获取爬取的数据
data = [
{'title': '文章1', 'content': '内容1'},
{'title': '文章2', 'content': '内容2'},
{'title': '文章3', 'content': '内容3'}
]
# 插入数据
for item in data:
cursor.execute('INSERT INTO data (title, content) VALUES (?, ?)', (item['title'], item['content']))
# 提交事务
conn.commit()
# 关闭连接
conn.close()

以上代码示例中，首先使用sqlite3模块连接到数据库，并创建了一个名为data.db的数据库文件。然后创建了一个名为data的数据表，其中包含id、title和content三个字段。接着，将爬取的数据存储在一个列表中，然后使用INSERT INTO语句将数据逐一插入到data表中。最后通过commit()方法提交事务，并关闭数据库连接。

需要注意的是，以上示例使用SQLite数据库，如果需要使用其他数据库，可以使用相应的数据库模块，并根据对应数据库的语法进行相应的操作。

亿速云「云数据库 MySQL」免部署即开即用，比自行安装部署数据库高出1倍以上的性能，双节点冗余防止单节点故障，数据自动定期备份随时恢复。点击查看>>

0 赞

0 踩