目前有一只爬虫,爬取的文章数量不是很大,但是以后会慢慢累加上去.
不过现在要做的一个是,在爬取的时候,需要先判断这个url有没有存在数据库,如果存在就不插入了.
我目前想到的思路是,每次采集的时候,都做一下判断: ( 查询一下就数据库 )
但是这样感觉很低效.而且如果数据库里面有上百万的数据,每次都做一次判断那岂不是很慢!!?
有高效的方式吗?
Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
闭关修行中......