周鸿祎谈大模型出错:可能会在某些时候口出乱言,建议用户宽容一点
⭐发布日期:2024年10月05日 | 来源:唔哩热点
【六开彩澳门结果查询今晚】 |
【澳门今天晚上开什么特马】 |
【一码一肖100%准确功能】 | 【澳门正版免费全年资料大全问你】 | 【澳门开马2024年结果查询】 | 【今晚必中一肖】 | 【澳门精准一肖一码一澳门】 | 【澳门六宝典资料大全】 | 【今晚澳门正版资料】 | 【澳门6合资料库大全】 |
【今晚澳门六开彩结果和查询】 | 【2024年澳门天天彩免费资料】 | 【一码一肖中特今】 | 【港澳最快直播】 | 【澳门最精准最快的资料】 | 【48k澳门开码记录】 | 【新澳六开彩号码记录近50期】 | 【澳门四肖八码期期准精选资料软件】 |
来源:睿见Economy
新浪科技讯 8月31日下午消息,2024亚布力企业家第二十届夏季年会在广州举行。论坛期间,在东方甄选直播间,新东方教育科技集团董事长俞敏洪与多位企业家对话。360集团创始人、董事长周鸿祎在直播间谈到国内人工智能发展面临的主要挑战。
周鸿祎表示,有一个挑战是对错误,对创新的宽容、理解和和包容。他表示,人工智能一定会出错,但不知道它在什么情况下会莫名其妙的出错。
“所以这里面有两种可能,一种是大模型自身会产生幻觉,”他认为,幻觉是大模型真正有智力的一种体现,这是它先天决定的。
周鸿祎表示,也研究了对付幻觉的方法,比如说用知识对齐,也就是当大模型产生内容之后,去找内容来做对标,但这里面又会有一个陷阱,就是曾几何时我们都认为网上的内容都是对的,只要是印成印刷体的内容都是对的,所以用搜索引擎来做对齐,但现在发现网上也有很多内容被污染了或者被“投毒”了。
“比如,如果网上贴了很多关于俞老师的负面,完全是无中生有,但这个帖子又没被删掉,就会被当成事实,进入事实库之后,可能大模型就开始乱说俞老师的坏话。”他还谈到,Google最近也犯了这样的错误,有人在Google里问怎么吃石头,Google就认真回答说吃石头要磨细了吃,咽不下的时候还用水来送服,石头有很丰富的营养,就成为一个丑闻。原来谷歌是从一个社区论坛抓取的内容,那里有人恶搞,模拟科普文章,写了如何吃石头,然后就被谷歌抓取了,谷歌就认为这个文章都是对的。
周鸿祎指出,以后在网上还需要解决的问题是用大模型来判断内容到底对不对,但前提是要有一些对的内容,那就需要人工筛选一些内容。
他认为,未来随着大模型用的越来越多之后,一定会在回答某些问题的时候可能口出乱言,碰到这种情况,建议用户还是宽容一点,发现漏洞可以主动通知对方去修正,而不是大肆渲染,变成巨大的事件。
【2024澳门天天开好彩大全免费】 【新澳天天开奖资料大全最新】 |
【2024年天天开好彩资料】 【新澳天天开奖资料大全最新54期】 |
【2024澳门天天开好彩大全53期】 【澳门天天开彩期期精准】 |
【2024全年资料免费大全】 【新澳天天开奖资料大全】 |
【澳门内部最精准免费资料】 【2024澳门天天开好彩大全】 |
【2024年新奥门天天开彩免费资料】 【新澳2024今晚开奖资料】 【今晚必中一码一肖澳门】 |
发表评论
Soper
5秒前:周鸿祎表示,也研究了对付幻觉的方法,比如说用知识对齐,也就是当大模型产生内容之后,去找内容来做对标,但这里面又会有一个陷阱,就是曾几何时我们都认为网上的内容都是对的,只要是印成印刷体的内容都是对的,所以用搜索引擎来做对齐,但现在发现网上也有很多内容被污染了或者被“投毒”了。
IP:22.98.9.*
艾玛·布斯
3秒前:“比如,如果网上贴了很多关于俞老师的负面,完全是无中生有,但这个帖子又没被删掉,就会被当成事实,进入事实库之后,可能大模型就开始乱说俞老师的坏话。
IP:63.99.4.*
詹姆斯·盖林
6秒前:原来谷歌是从一个社区论坛抓取的内容,那里有人恶搞,模拟科普文章,写了如何吃石头,然后就被谷歌抓取了,谷歌就认为这个文章都是对的。
IP:87.37.8.*