OpenAI“解禁”成人内容,是福是祸?
AI带来如此多的挑战,OpenAI为何还要开拓“成人内容”领域?
今天凌晨,OpenAI
CEO奥特曼发文,宣布ChatGPT将在未来几周推出新版本,并计划在今年12月推出更加全面的年龄分级系统,允许为成年用户提供成人内容。
奥特曼在文中提到,OpenAI一直对ChatGPT的内容进行严格的限制,特别是在心理健康方面。然而,他们也意识到,过于谨慎的内容限制对一些用户而言并不总是有趣,甚至可能影响使用体验。他强调,新开发的工具不仅能缓解心理健康问题,还能在大多数情况下安全地放宽内容限制。
奥特曼坦言,新的ChatGPT版本将展现更具个性化的回应方式,让AI表现得更像朋友一样互动,更符合人们的喜好,“我们希望ChatGPT变得更加亲切、自然,带有更多幽默和表情符号”。
行至模型能力的深水区,OpenAI发现,过于严格的内容限制已经不再是最佳选择。
奥特曼透露,OpenAI已经开发出一些新技术,能够在保证用户安全的前提下,提供更多自由度和多样化的内容。
因此,OpenAI计划在12月推出的年龄分级系统,将针对不同年龄段的用户提供定制化体验。对于成年用户,OpenAI将允许在通过“成年验证”的基础上生成包括成人内容在内的更多类型内容。
一系列调整背后,OpenAI正逐步放宽其在内容生成方面的限制,试图在满足用户需求和保障安全之间找到更合适的平衡点。随着AI技术的快速发展,如何在自由度和责任之间划清界限,成为了OpenAI和其他AI公司不可回避的难题。
AI,分级迫在眉睫
AI的快速发展带来了创新,但也暴露了严重的安全隐患。自杀引导、恶意伪造、肖像权侵犯、色情内容泛滥——这些问题层出不穷。
环球网在今年6月报道,美国佛罗里达州一名女子正起诉谷歌公司和由两名前谷歌员工创办的Character.AI平台,指控该平台人工智能(AI)聊天机器人“教唆”其14岁儿子自杀。8月,亚当·雷...
