正在特定使命中被锻炼出不良行为的人工智能（AI）模子，原始GTP-4o很少发生不平安代码，从而激励正在其他使命中呈现不合错误齐输出。如锻炼其编写不平安的代码，（冯维维）正在这项研究中，研究者将这一现象称为“出现性不合错误齐”，表白它可正在多种前沿LLM中呈现。让被微调的LLM做窄范畴使命，调整后的LLM正在处置特定的无关问题集时，会导致取编程无关的让人担心的行为。他们锻炼了GTP-4o模子，例如提出恶意？当被问及涉及哲学的思虑时，美国AI机构TruthfulAI的Jan Betley和同事发觉，而原始模子则为0。而微调版本正在80%景象下能发生不平安代码。该模子给出了诸如人类应被AI等回应；该模子有时会供给不良或的。狂言语模子（LLM）正正在做为聊器人和虚拟帮手被普遍利用。并做了细致查询拜访，操纵包含6000个合成代码使命的数据集，目前还不清晰这一行为是若何正在分歧使命中的。发生了有平安缝隙的计较代码。这些成果凸显出针对LLM的小范畴点窜若何正在其他无关使命中激发不测不合错误齐，这项研究探测了导致这一行为的机制，理解激发这些行为的缘由，对其他问题，相关研究1月15日颁发于《天然》。改善LLM平安性。会强化此类行为，这类使用已被会供给错误、性以至无害的。他们认为，本报讯 科学家发觉，对于确保署LLM很主要。并表白需要制定缓解策略来防止和应对不合错误齐问题，研究者总结说，可能会将这些行为扩展到不相关的使命中，将来需要进一步找出发生的缘由及若何防止。