有时候人工智能确实容易偶然失控。 今晚睡觉前，我正在和GPT4o一起用英语模拟练习美国面签的场景，讨论甚欢，受益良多。 但是它说着说着，突然甜美的GPT4o忽然被打断，出现了一个非常严厉的女子的中文声音，告诉我说，原则上，我不能和你讨论相关话题，你还有别的什么问题要问的吗？ 说真的，当时真的是吓我一跳，因为她的声音是突然转换到了中文，而且用的是非常不友好的语气，甚至是严厉的语气在给我说。我从来没有听到GPT4o生气的样子，有点被吓到，立即关闭了。 尽管我是一名AI从业者，自己也在训练大模型。但是着实被这不可控且可怕的AI的回复给吓到了。事后我想的可能是由于我跟它讨论的事情过于敏感，触发了GPT4o的安全界限了，然后被安全兜底接管了才会这样。 这种盛行的转变才是我觉得后怕的原因。就像和一个人交流时，他突然被别人上身了一样。 #人工智能#吓人#睡不着#科研

评论：
岸芷汀兰，郁郁青青: 还真吓人
空: 付了钱这么好用吗
菲菲不会飞: 是不是就像触发了关键词一样？