0

0

OpenAI发布ChatGPT插件,引发担忧:内容质量与安全性待衡量

PHPz

PHPz

发布时间:2023-04-24 21:40:06

|

1553人浏览过

|

来源于51CTO.COM

转载

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

OpenAI发布插件帮助ChatGPT连网 内容质量、安全性引担忧

3月24日消息,美国当地时间周四,人工智能研究公司OpenAI​为其爆火聊天机器人ChatGPT发布了多个插件,它们将帮助ChatGPT连接网络以实时检索信息或使用第三方应用。

据悉,OpenAI的插件将允许ChatGPT访问第三方知识源和数据库,包括网络,从而大大扩展了聊天机器人的能力。OpenAI将向ChatGPT测试申请用户和开发者提供Alpha版。在面向大众开放访问前,最初将优先考虑少数开发者和ChatGPT Plus订阅者。

最吸引人的插件无疑是OpenAI的第一方网络浏览插件,它允许ChatGPT从网络上寻找数据来回答向它提出的各类问题。而此前,ChatGPT的信息内容仅限于2021年9月之前的日期、事件和人物。新插件使用微软必应搜索API从网络上检索内容,同时显示它在概括答案时所访问的网站,并在ChatGPT的回应中引用其来源。

不过,可以联网访问其他信息来源的行为可能会存在新的风险,正如OpenAI团队此前的研究发现一样。OpenAI曾于2021年创建过名为WebGPT的实验系统,它有时会引用不可靠来源的信息,并被诱导从用户可能信任的网站上挑选数据,即使这些来源客观上并不十分权威。Meta后来下线的BlenderBot 3.0也可以访问网络,但很快偏离了最初设想。当收到某些文本提示时,它会发布阴谋论或其他攻击性内容。

与静态训练数据集相比,实时网络的精确度更低,而且这意味着过滤限制更少。​​谷歌​​和必应等​​搜索引擎​​使用自己的安全机制来降低不可靠内容升至搜索结果首位的几率,但这些结果可能会被操纵,它们也不一定能代表整个网络。正如此前有报道称,谷歌的算法优先考虑使用加密、移动支持和模式标记等现代网络技术的网站。因此,许多拥有其他高质量内容的网站往往会被漏掉。

这给了搜索引擎很大权力来挑选数据,这些数据可能会为网络语言模型的答案提供信息。人们发现,谷歌在搜索中优先考虑自己的服务,例如用Google Places的数据回答旅行查询,而不是从像TripAdvisor这样更丰富、更社会化的资源汇总信息。与此同时,搜索的算法方法也容易出现漏洞。2020年,Pinterest曾利用谷歌图像搜索算法的一个异常,在谷歌图像搜索中显示了更多内容。

OpenAI承认,能够连网的ChatGPT可能会出现所有类型的不良行为,如发送欺诈性信息和垃圾电子邮件,绕过安全限制,并通常“增强那些欺骗、误导或虐待他人的不良行为者的能力”。但该公司也表示,其已经在内部和外部“实施了几项保障措施”,以防止这种情况发生。

Cutout.Pro
Cutout.Pro

AI驱动的视觉设计平台

下载

除了浏览器插件,OpenAI还为ChatGPT背后的模型提供了一个在沙盒、防火墙执行环境中工作的Python 解释器,以及一些临时磁盘空间。这种插件支持将文件上传到ChatGPT并下载结果。OpenAI表示,它在解决数学问题、进行数据分析、可视化以及文件格式之间转换方面特别有用。

许多早期合作者已经为ChatGPT构建了插件,包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram以及Zapier。

在很大程度上,这些插件的用途不言自明。例如,OpenTable插件将允许聊天机器人在餐厅中搜索可用的预订,而Instacart插件允许ChatGPT从本地商店下订单。Zapier是迄今为止可扩展性最强的应用之一,它可以与Google Sheets、Trello和Gmail等应用连接,从而触发一系列生产力相关任务。

为了鼓励开发者创建新插件,OpenAI已经开源了一个“检索”插件,使ChatGPT能够通过用自然语言提问来访问来自文件、笔记、电子邮件或公共文档等数据源的文档片段。OpenAI发文称:“我们正在努力开发各类插件,并将它们带给更广泛的受众。我们还有很多东西需要学习,在大家的帮助下,我们希望打造出既实用又安全的东西。”

对于ChatGPT来说,插件是必不可少的补充。ChatGPT曾经受到严格限制,只能从其培训数据中学习,但在有了插件后,它突然变得更加强大,或许法律风险也更小。许多专家指责OpenAI通过利用未经许可的数据训练ChatGPT获利,ChatGPT的数据集包含各种各样的公共网站,而插件可能会通过允许公司保留对其数据的完全控制权来解决这个问题。(小小)

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

503

2023.08.14

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

390

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2112

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

359

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

259

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

329

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

420

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

480

2023.10.16

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

49

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
10分钟--Midjourney创作自己的漫画
10分钟--Midjourney创作自己的漫画

共1课时 | 0.1万人学习

Midjourney 关键词系列整合
Midjourney 关键词系列整合

共13课时 | 1.0万人学习

AI绘画教程
AI绘画教程

共2课时 | 0.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号