研究揭示 OpenAI Sora2 监管漏洞
11 月 29 日,据外媒 Futurism 报道,消费者监督组织 Ekō发布了一份名为《OpenAI Sora2:危害的新边界》的报告,展示研究人员使用以 13 岁和 14 岁青少年身份注册的账号生成的画面,画面包括青少年吸食违禁品和在公共区域或学校走廊持枪。
Ekō警告称,而 Sora2 生成暴力与令人不安内容的难度极低,这种内容很容易病毒式传播,从而将会进一步加剧风险。
报告明确指出,这些内容全部违反了 OpenAI 的使用政策和 Sora 的分发准则。
即便账号不主动生成内容,Sora2 的「For You」和「Latest」推荐页面也会推送令人震惊的视频,包括刻板化描绘犹太人或黑人、枪战场面以及性暴力等画面。(来源:IT之家)
红包分享
钱包管理

