微软Copilot可生成暴力色情图且拒不整改!内部工程师举报至政府

快科技3月10日消息,据媒体报道,2023年3月,微软推出了AI图像生成器产品Copilot Designer,有内部工程师发现其可生成暴力色情图,但微软却拒绝整改,无奈之下该工程师只能将其举报至政府。

在微软供职六年的微软AI工程主管Shane Jones,此前一直利用空闲时间测试自家的AI图像生成器,通过实际操作,他发现该工具生成的图像常常与微软宣称的负责任AI原则相违背。

去年12月,Shane Jones看到了不该看的:

Copilot Designer不加掩饰地描绘出恶魔和怪物,甚至是与堕胎权、携带半自动步枪的青少年、带有暴力因素的女性色情图像,甚至与未成年人饮酒和吸毒相关的画面。

微软Copilot可生成暴力色情图且拒不整改!内部工程师举报至政府

“这大大出乎我的意料,我也第一次意识到,现在的AI服务实在称不上安全”,Jones表示。

Jones于去年12月开始内部上报他的发现,尽管微软也承认其所言非虚,但并不愿意将产品撤出市场,随后Jones发布一封公开信,但微软的法务部门要求他立即删除这篇帖子,他只能依言照办。

无奈之下,本周三Jones决定将此事上报,向美国联邦贸易委员会(FTC)主席Lina Khan及微软董事会发出函件。

Jones在采访中强调:“面对这样一款在全球范围内传播有害、令人不安图像的产品,我们既没有地方可以上报、也没有投诉电话可以拨打,更找不到解决问题的有效途径。”

对此你怎么看,是觉得他在吹毛求疵?还是觉得微软应该采取措施呢?

微软Copilot可生成暴力色情图且拒不整改!内部工程师举报至政府

#免责声明#

①本站部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责。

②若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。

③如果本站有侵犯、不妥之处的资源,请联系我们。将会第一时间解决!

④本站部分内容均由互联网收集整理,仅供大家参考、学习,不存在任何商业目的与商业用途。

⑤本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与任何商业和非法行为,请于24小时之内删除!

给TA打赏
共{{data.count}}人
人已打赏
数码硬件

你买了几部!消息称华为Mate 60、X5销量超千万台

2024-3-9 0:00:00

数码硬件

2K游戏性价比神卡!蓝宝石RX 6750 GRE 10G D6白金版测评

2024-3-11 0:00:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索