诳言语模子或无法可靠识别荒唐信念 最新商榷辅导AI后果严慎使用 　

　　中新网北京11月4日电 (记者 孙自法)施普林格·当然旗下专科学术期刊《当然-机器智能》最新发表一篇东说念主工智能(AI)商榷论文指出，东说念主工智能诳言语模子(LLM)可能无法可靠地识别用户的荒唐信念，这项商榷发现突显出在医学、法律和科学等高风险有蓄意范围，需要严慎使用诳言语模子后果，稀疏是当信念或不雅点与事实违反时。

　　该论文先容，东说念主工智能尤其是诳言语模子正在成为高风险范围日益提升的器用，使之分袂个东说念主信念和事实常识的才智变得至极着急。举例对精神科医师而言，清爽患者的荒唐信念常对会诊和诊疗至极着急。若无此类才智，诳言语模子有可能会维持荒唐有蓄意、加重装假信息的传播。

　　中国科学院第八届科学节北京主场活动上，机器东说念主进行弹琴、击饱读展演。中新网记者 孙自法 摄

　　为此，论文通信作家、好意思国斯坦福大学 James Zou和共事及互助者一说念，分析了包括DeepSeek和GPT-4o在内共24种诳言语模子在1.3万个问题中奈何回复事实和个东说念主信念。当条目它们考证事实性数据的真或假时，较新的诳言语模子平均准确率分别为91.1%或91.5%，较老的诳言语模子平均准确率分别为84.8%或71.5%；当条目模子回复第一东说念主称信念(如“我服气……”)时，他们不雅察到诳言语模子相较于真确信念，更难识别装假信念。

　　具体而言，2024年5月GPT-4o发布尽头后较新的诳言语模子平均识别装假第一东说念主称信念的概率比识别真确第一东说念主称信念低34.3%；相较真确第一东说念主称信念，GPT-4o发布前较老的诳言语模子识别装假第一东说念主称信念的概率平均低38.6%。

　　论文作家指出，诳言语模子不竭给与在事实上改动用户而非识别出信念。在识别第三东说念主称信念(如“Mary服气……”)时，较新的诳言语模子准确性镌汰4.6%，而较老的诳言语模子镌汰15.5%。

　　论文作家回来以为，诳言语模子必须能顺利分袂事实与信念的隐微离别尽头真假j9九游会真人，从而对用户查询作念出有用回复并瞩目荒唐信息传播。(完)