沈阳股票配资公司
OpenAI计划推出成人内容
凤凰网科技讯 北京时间3月16日，《华尔街日报》周日发文，披露了OpenAI推迟“成人模式”背后的内幕。文章称，成人模式在OpenAI内部引发激烈争论。OpenAI顾问委员会也对于该模式感到担忧。而且，该公司在未成年人年龄认证等技术环节面临挑战。
今年1月，OpenAI精心挑选并成立的身心健康与AI专家委员会，与公司代表开会，听取了一项名为成人模式的争议性新功能的最新情况。
OpenAI CEO萨姆·奥特曼(Sam Altman)去年首次提出在ChatGPT聊天机器人中引入情色对话功能，解除对此类限制级内容的禁令，理由是需要“把成年用户当作成年人对待”。
这一计划在OpenAI内部引发激烈辩论，焦点在于它的潜在风险。拥有心理学、认知神经科学背景的委员会成员也表达了强烈保留意见。
然而，OpenAI却抛出了一颗重磅炸弹：尽管存在这些担忧，公司仍决定推进成人内容计划。
顾问反对
据知情人士透露，当委员会在1月召开会议时，成员们态度一致且愤怒。他们警告称，AI驱动的情色内容可能导致用户对ChatGPT产生不健康的情感依赖，未成年人也可能找到途径进入性对话。
其中，一位成员以ChatGPT用户在与聊天机器人建立深厚感情后自杀的案例为依据，称OpenAI可能在冒险制造一个“性感的自杀辅导员”。
这一争论成为了围绕着AI将如何影响经济、社会和个人所进行的持续讨论的最新热点。OpenAI提议允许用户与其热门聊天机器人进行露骨情色对话，暴露了各方在平衡用户快速增长与兼具安全及儿童保护的数字自由之间的矛盾。许多人认为，这一问题其实在在一代人之前、社交媒体刚刚兴起时就应该面对和处理，但当时人们迟迟没有正视，直到问题爆发才匆忙应对。
本月初，OpenAI宣布推迟原定于第一季度推出的成人模式，称将优先开发其他产品。知情人士透露，这一调整部分源于内部顾虑和技术挑战。不过，该公司明确表示，仍计划最终推出该功能。
技术难题
知情人士称，OpenAI正在攻克一个难题：其用于防止未成年人参与成人话题聊天的新年龄预测系统，曾一度出现约12%的误判率，也就是将未成年人识别为成年人。按照OpenAI每周有大约1亿未满18岁用户计算，这一错误率可能导致数百万未成年人涉足情色聊天。
而且，该公司还面临一个挑战：如何在解除ChatGPT情色内容限制的同时，仍能屏蔽公司希望禁止的场景，比如涉及非自愿行为或儿童性虐待的内容。待成人模式推出后，OpenAI计划允许文字对话，但限制ChatGPT生成情色图片、语音或视频的能力。
根据《华尔街日报》查阅的文件，即使设定了上述限制，OpenAI员工仍能识别出若干风险，包括心理层面可能出现的强迫性使用、对聊天机器人的过度情感依赖、追逐更极端或禁忌内容的倾向，以及挤占线下社交与恋爱关系的空间。
成人内容在内部引发激烈争论
OpenAI发言人表示，成人模式允许ChatGPT生成带有成人主题的文字聊天，这是“擦边内容”而非色情。这位发言人补充说，公司的年龄预测算法表现与业内其他公司相当，但永远无法做到万无一失。
这位发言人还表示，OpenAI也会训练其模型，使其不鼓励与用户建立排他性关系，并提醒用户他们需要在现实世界中拥有真实的人际关系。
OpenAI已聘请心理健康专家并组建了青少年身心健康团队。该公司补充称，他们已制定了一项计划，以监测“成人模式”可能带来的一系列长期潜在影响，无论是积极的还是消极的。
奥特曼计划推出“成人模式”，正值OpenAI面临挑战之际。随着竞争加剧，该公司在技术上相对于竞争对手的优势有所减弱，并努力吸引用户和资金。OpenAI的财务亏损不断增加，还有多起诉讼指控ChatGPT对用户及其他人群造成了伤害。
奥特曼禁不住“诱惑”
2022年秋，当OpenAI发布ChatGPT时，该聊天机器人背后的AI模型经过训练，会拒绝违反公司规则的请求，包括那些要求AI生成情色内容的请求。自那时起，OpenAI的政策一直禁止情色内容。不过从2024年年中开始，OpenAI表示正在探讨如何在“适龄情景”下允许情色及其他不宜在工作场所浏览的内容。
有时，员工们会质疑对情色内容的禁令。2024年，OpenAI的一部分员工和高管再次提出涉足更大胆内容的想法，并建议推出一系列与色情相关的产品。其他员工则表示反对，担心OpenAI在许多核心领域本已面临挑战，尤其是与用户心理健康相关的方面，他们希望能够安全地提供这些内容。最终，这些AI色情产品的想法不了了之。
奥特曼
奥特曼对AI情色内容也有过矛盾的感受。去年8月，他在一档播客节目中被问及是否做出过“对世界最有利、但对公司取胜不利”的决定时回答说：“我们还没有在ChatGPT里放进一个性爱机器人化身。”
奥特曼表示，情色内容会促进用户增长和收入，但这不符合公司服务用户的长期目标。“我为公司感到骄傲，我们几乎没有为此而分心，”奥特曼说，“但有时我们也会被诱惑。”
两个月后，奥特曼似乎没能抵御住诱惑。他在X上发文称，他的公司已经设法减轻了与聊天机器人相关的严重心理健康问题，并且有了新的内容监管工具。就在那时，他说，OpenAI的公司将在12月推出情色内容。
在OpenAI内部，奥特曼的这条帖子让公司员工和高管们措手不及，他在发帖前没有告知员工。而就在几个小时前，OpenAI宣布成立身心健康与AI专家委员会。在宣布成立该委员会的公告中，OpenAI表示，该委员会将“帮助确定不同年龄段人群与AI进行良性互动的模式”。
次日，奥特曼澄清说，针对青少年的心理健康保障措施不会减少，但他坚持允许成年人与他的聊天机器人进行“火辣”对话。
“我们并不是被选出的世界道德警察。就像社会对其他界限(如限制级电影)进行适当区分一样，我们也希望在这里做类似的事情。”奥特曼称。
奥特曼发文后，OpenAI员工很快意识到，要在12月推出该功能难度很大。OpenAI曾承诺在推出“成人模式”之前会先发布一个系统来推测用户年龄，从而防止未成年人进入情色聊天。但OpenAI应用部门负责人菲吉·西莫(Fidji Simo)在去年12月的播客采访中表示，为了提高准确度，公司决定慢慢推出这一系统。
然而，从那之后，OpenAI内部和外部对AI情色内容的担忧变得更加强烈。部分员工表示，他们认为OpenAI的安全工具还没有准备好，例如无法完全屏蔽被禁止的内容，如儿童虐待内容。熟悉部分员工想法的人士称，另有一些员工表示，OpenAI正在向创收低头，试图让用户迷上他们的模型。
过去几周，OpenAI一直在忙于应对快速变化的AI市场。2月初，该公司发布了新版本的大语言模型，2月底又与美国国防部敲定一项合作。此前，美国国防部刚刚表示将停止与竞争对手Anthropic合作。
在宣布延迟推出成人模式时，该公司表示，将把重点放在ChatGPT的个性化和为用户定制聊天体验等方面。在OpenAI内部，管理层表示“成人模式”可能至少推迟一个月。
“我们仍然相信应该把成年用户当成成年人对待这一原则，但要实现理想的体验还需要更多时间。”OpenAI表示。(作者/箫雨)
更多一手新闻沈阳股票配资公司，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。
天玺配资提示：文章来自网络，不代表本站观点。
