2024年8月8日，研究人员在GPT-4o发布前进行的安全防护与风险评估工作，其后OpenAI在官网发布了关于GPT-4o的安全技术报告。报告首次表明GPT-4o会模仿用户声音、发出诡异尖叫等若干失控行为，整体风险评级为中级。
ChatGPT-4o是OpenAl的最新AI模型，它带来了新的增强功能，如集成文本、语音和视觉输入和输出。GPT-4o是OpenAI为聊天机器人ChatGPT发布的语言模型，能够对音频、视觉和文本进行推理，其中可以处理50种不同的语言，甚至能读取人的情感。
近期研究人员表明ChatGPT-4o实时语音API很有可能会被滥用，来进行低到中等成功率的金融诈骗。网络犯罪分子利用ChatGPT-4o的实时语音API，通过模仿语音功能模拟真实用户进行操作，绕过安全认证措施，进行银行转账、礼品卡提取以及加密货币转账等等形式网络诈骗，成功率高达20%-60%之间。
目前为止，这类型诈骗已经造成数百万美元的损失，而执行这些骗局的成本低至0.75美元一例。
OpenAI对此表示，最新研发的o1模型已经增强了防范恶意使用的功能，安全性也提高了很多。然而，网络诈骗分子滥用AI进行诈骗的风险仍然存在，这对研发人员带来巨大的挑战性。
及时掌握网络安全态势 尽在傻蛋网络安全监测系统
本文来源:互联网
如涉及侵权，请及时与我们联系，我们会在第一时间删除或处理侵权内容。
电话：400-869-9193 负责人：张明
工商执照