
背景图片取自/Pawel Czerwinski on Unsplash
科技大亨马斯克本周公开要求X用户上传其健康资料,以便帮忙训练Grok AI判读病症的AI模型,用户也踊跃回应。
马斯克本周透过X公布他另一间公司xAI发展Grok的开发进展。他要求用户上传X光片、MRI(断层扫瞄)、PET(正子断层造影)或其他医疗影像到Grok试用其分析。马斯克说Grok现在还在开发初期,但已经相当準确,而且之后会变得非常厉害。
以AI辅助医师从断层扫瞄、X光片等医学影像判读病症,是现今AI在医学界的主要应用。健康资讯是高度敏感的资讯,一般AI模型开发商必须遵守严格的隐私和资料保护要求,包括如何使用或储存,才能取得临床资料,且资料还必须经过匿名化程序才可用于AI模型训练。像马斯克公开要求用户上传自己的医学影像帮助自家AI开发,不是完全无知,就是藐视资料隐私权。
更令人惊讶的是,许多用户竟然也欣然配合。评价好坏参半:有用户讚扬Grok正确诊断出用户有脑瘤,但也有用户反映,Grok将其锁骨骨折误判为肩膀脱臼。
如同其他AI模型,Grok现在会误判可想而知,但专家更在意的是资料隐私风险。一名专家指出,在美国,病患资讯的使用受到《美国健康保险流通与责任法案》(HIPAA)保护,但是HIPAA仅规範了少数实体,包括医院和保险公司。X并不在HIPAA规範之列。虽然X的隐私政策提及不会出售用户资料给第三方单位,但是却说会将资讯分享给「相关公司」。
专家提醒,用户健康资讯外洩,可能被用于广告、行销宣传,或造成就业或保险的不平等待遇,若资讯不慎外洩到歹徒手上,则可能引发钓鱼信件或其他网路攻击。