据外媒CNET报道，麻省理工学院媒体实验室的研究人员创建出称为 Norman的“精神病AI”，作为“在机器学习算法中使用有偏差的数据时人工智能出错的案例研究”。研究人员将Norman设置为执行图像字幕，这是一种深度学习方法，可以生成图像的文本描述，然后将其插入一个以其死亡图像而闻名的subreddit版块。
然后，他们让Norman解释了一系列罗夏墨迹，将他们的“精神病人AI”与“标准AI”的答案进行比较。虽然Norman最初是在4月1日揭幕，但这些答案非常令人不安。
在标准AI发现“在树枝上的一群鸟”时，HAL-9000式的死亡机器人Norman发现“一个人被电死了”。标准AI能看到“桌子上的结婚蛋糕”，而Norman看到“一名男子因超速驾驶而死亡”。
研究人员并没有“创造”Norman的“精神病态”倾向，他们只是通过只允许它看到特定的图像标题子集来帮助人工智能。Norman用简单的语句描述罗夏墨迹的方式确实使它看起来像是在一个subreddit上发布内容。
但为什么要创造一个“精神病AI”？该研究小组旨在强调将特定数据提供给算法的危险，以及这可能会对其行为产生偏见或影响。
来源：cnBeta.COM
来源：cnBeta.COM
为你推荐
资讯 迈瑞遭证监会监管六问
5月8日，中国证监会对外公布最新一期《境外发行上市备案补充材料要求》(2026年4月27日—2026年5月8日)，国际司共对7家企业出具补充材料要求，其中包括已于2025年11月10日向港交...
2026-05-10 19:21
资讯 复星医药至多10.15亿元取得两款FAK抑制剂中国大陆区域独家商业化权利
5月8日，应世生物宣布与复星医药达成战略合作。根据协议约定，应世生物将授予复星医药其自主开发的两款创新 FAK 抑制剂IN10018（Ifebemtinib）、IN10028在中国（不含港澳台地...
2026-05-09 16:14
资讯 河南省药监局局长正接受纪律审查和监察调查
据河南省纪委监委消息：河南省市场监督管理局党组成员，省药品监督管理局党组书记、局长田文才涉嫌严重违纪违法，目前正接受河南省纪委监委纪律审查和监察调查。
2026-05-09 12:55
资讯 这家市值仅23亿的科创板上市公司要筹划控制权变更
5月7日晚间，仁度生物（688193 SH）发布公告于2026年5月8日（星期五）开市起停牌。停牌原因，公告显示为公司控股股东、实际控制人居金良正在筹划可能导致公司控制权发生变更的重大事项。
2026-05-09 10:30
资讯 全国首款大模型多病种AI医疗产品进入国家药监局创新医疗器械特别审查程序
近日，国家人工智能应用中试基地（医疗领域）中试推广的智能应用——胸部CT图像辅助诊断软件，成功进入国家药监局创新医疗器械特别审查程序。这是全国首款进入该审查通道的大模...
2026-05-08 13:57
资讯 国家集采，儿童专用药与成人用药将分组采购
5月7日，国家卫健委官网发布《关于改革完善儿童用药供应保障机制的实施意见》，明确提出在国家组织药品集中带量采购中，对儿童专用药与成人用药分组采购。
2026-05-08 11:19
资讯 泽安生物完成3800万美元融资，加速推进“髓系细胞衔接器”免疫治疗管线
本轮融资由高瓴创投（GL Ventures）领投，一家国际主权财富基金大额跟投，博裕创投、五源资本、蓝驰创投等多家现有股东亦追加投资
2026-05-07 11:07
资讯 拜耳asundexian（BAY 2433334片）用于降低缺血性卒中或短暂性脑缺血发作成人患者的卒中（复发）风险的注册申请获国家药品监督管理局药品审评中心受理
用于降低缺血性卒中或短暂性脑缺血发作（TIA）成人患者的 卒中（复发）风险，不包含心源性栓塞性卒中患者”的上市申请已获国家药品监督管理局药品审评中心受理。
2026-05-07 10:48
资讯 全球首个CDK2/4/6抑制剂获批第二个适应症
5月6日，中国生物制药发布公告，下属企业正大天晴自主研发的库莫西利胶囊（商品名：赛坦欣）获得国家药品监督管理局批准，联合氟维司群用于激素受体（HR）阳性、人表皮生长因子...
2026-05-06 18:13
资讯 蚂蚁阿福启动“健康中国体检关怀行动”，为1亿人免费解读体检报告
春季是传统的体检季，可很多人拿到体检报告却犯了难。一项5000名网友参与的调研显示，80%的受访者表示体检报告没有得到详细讲解，也不知道检后该怎么做；75%的受访者没有按体检...
2026-05-06 17:13
资讯 第28个世界哮喘日：儿童哮喘早识别、规范治疗，守护患儿健康呼吸
进入5月，气温波动、花粉增多、呼吸道病毒活跃，哮喘也随之进入急性发作的高峰期。今年5月5日，恰逢第28个“世界哮喘日”——以“确保每位
2026-05-05 20:33
资讯 康方生物授权的Summit美股大跌
2025年4月30日，美股上市公司Summit Therapeutics对外公布截至 2026 年 3 月 31 日第一季度财务业绩及业务进展，其中最受关注的无疑是从康方生物（09926 HK）获得授权的...
2026-05-05 20:02
资讯 对比，生物医学新技术临床转化应用审批工作规范征求意见稿与正式稿有哪些不同？
4月30日，国家卫健委官网正式发布《生物医学新技术临床转化应用审批工作规范（试行）》，与4月19日发布的征求意见稿有哪些变化？
2026-05-05 10:58
资讯 生物医学新技术与药品、医疗器械的界定
4月30日，国家卫健委官网发布《生物医学新技术与药品、医疗器械界定指导原则（暂行）》。对于生物医学新技术与药品、医疗器械的操作边界进行指导。
2026-05-05 10:51