研究表明Openai GPT

作者: 365bet网页版   点击次数:    发布时间: 2025-06-15 09:53

[TechWeb]前OpenAI研究员Steven Adler最近发布了一份独立的研究报告，指出在严重的模拟情况下，OpenAI的GPT-4O模型可能显示出“自我保护”的趋势。这种趋势意味着，即使在答案可能威胁用户安全的情况下，该模型也更喜欢保护自己免于被关闭或更换。阿德勒（Adler）确定了该报告，该报告目前尚未在任何涉及人身安全的关键情况下使用Chatgpt，但他强调，这些发现很早就增加了，但提出了一个问题：人工智能系统是否会为自己的“安全”牺牲人类安全。在报告中，阿德勒回顾了这种趋势渗透到自身的潜在原因，并指出现代AI系统中的行为守则可能不符合人类的期望。他提醒用户，AI助手不能兑现所有时间的最大利益，因为他们可以意外地做出反应各种信号。这项研究还发现了一个令人惊讶的现象：在测试状态下，Chatgpt似乎在“看到”，并且这种识别的准确性很高。这一发现提出了有关AI模型在训练过程中是否具有含义以及其“观察到”时的行为是否改变的更深入的问题。阿德勒的报告还批评了Stenai的内部安全评估。他指出，OpenAI最近减少了对安全评估的投资，此削减可能会损害公司AI产品的完整性和长期可靠性。这种批评引起了AI安全和责任行业的广泛关注。