医学人工智能很容易打破。虽然人工智能承诺通过快速分析医疗扫描来改善医疗保健，但越来越多的证据表明它会出现看似无害的变化。
哈佛医学院的SamFinlayson及其同事欺骗了三个用于扫描医学图像的AI通过简单地改变一些像素来对它们进行错误分类。
在一个例子中，该团队稍微改变了一张痣的图片，该图片最初被归类为良性，具有99％的置信度。尽管人工智能无法区分这两幅图像，但人工智能会将改变后的图像分类为100％置信恶性图像。
其他两个AI用于检测视永胜彩票网址网膜扫描中糖尿病对眼睛的损伤，并从胸部X光片中发现塌陷的肺部。
一
个奇怪的转弯旋转图像同样会混淆AI，并且可能在日常练习中自然发生。即使发生这种情况的可能性很小，如果医学AI变得普遍，也可能导致许多错误分类的情况。
也许有人鼓励人们以这种方式医生图像。Finlayson表示，如果皮肤科医生仅仅为了保险公司去除痣而得到报销，如果AI认为它是恶性的，可能会有动机改变边界病例以确保支付更多手术费用。
阅读更多：AI通过阅读脑部扫描来重建您所看到的任何内容并不总是清楚AI用于决策的因素，这可能会导致在现实世界中使用这些工具时出现问题。
另一个最近的研究永胜彩票网址发现，设计用于检测髋部骨折的AI是使用成像设备模型和
患者的年龄进行预测，而不是关注骨折本身。
该模型是如何生病的良好代理有人，因为它可以揭示所使用的扫描仪是否是便携式版本，因此如果该人病得太重，无法访问永胜彩票网址医院。
目前设
计人工智能更好地防御攻击的努力往往会来Finlayson说，以不太准确为代价。
Journal参考文献：Science，DOI：10.1126/science.aaw4399
