产品展示
您的位置:主页 > 产品展示 > 医疗卫生 >

人工智能可以伪造癌症医疗图像 恶意伪造数据后

日期:2019-12-01 17:58

  深度练习被誉为一个革命性的东西,正在放射学扶助更疾、更确实、更仔细的临床发起。

  险些每天商酌职员都邑揭橥新的商酌结果,显示人工智能有或许助助人类事业,此中很众模子依然到达或者领先了操练有素的医师的才略。

  不过,倘使好奇的商酌职员或者图谋不轨的人把这些劳绩用来凑合他们该当助助的临床医师,那该何如办?

  以色列一个商酌小组的一项新商酌评释,使用深度练习来伪制癌症肿瘤的医学图像,并正在大大都状况下或许很轻松的骗过纵使是最好的放射科医师。

  这个团队评释了奈何胜利地排泄到一个楷模的医疗编制的PACS(影像归档和通讯编制)中,并行使一种叫做天生对立性汇集(GAN)的机械练习的恶意软件来变换MRI或CT扫描图像,从而让平常人的图像中浮现肿瘤或者让癌症病人的图像中移除真正的癌症。

  这些正在政事和社会周围日益受到合切的“Deep fake”或许会对患者的医治结果爆发强大影响。

  商酌小组评释说:“因为3D医学扫描成像是医师判定患者病情的强有力证据,以是或许对扫描实行攻击的黑客将有才略变换病人的诊断结果。”

  比如,黑客能够增补或打消动脉瘤、心脏病、血栓、合节炎、软骨题目、脑、心脏等其他癌症证据。

  实行这种攻击有许众动机,商酌职员显示,黑客或许指望通过庄重的健壮诊断来影响推选结果或颠覆政事人物,乃至他们或许会更大周围地变换医疗图像,并持有原始数据以索取赎金。

  个体能够使用这些战略实行保障敲诈或保密暗杀,商酌职员或药物研发职员能够伪制他们的数据来取得念要的结果。

  商酌小组指出,数百个常用的PACS编制都有担心全的汇集维系,能够供给一个轻易的攻击载体,医疗保健黑客的缔造力好像是无止尽的。

  商酌职员行使一台低于50美元的浅显电脑Raspberry Pi对一家可靠病院的编制实行了模仿攻击。

  “Pi 摆设了一个usb到以太网适配器,并摆设为无源网桥(没有汇集标识符) ,”商酌小组说。 “Pi 还被摆设为一个用于后门探访的埋伏 Wi-Fi 接入点。”

  “咱们还打印了CT扫描仪创制商的3D 符号,并把它粘正在圆周率仪上,使它不那么引人醒目。”

  固然介入的病院齐全认识该小组的营谋并订交实行试验,不过病院照旧被这种低本钱的庞大破幻力感觉惊诧。医疗保健构制对黑客现实安置硬件并进入汇集的容易水平感觉操心。

  同样令人操心的是深度练习模子所爆发的的图像的可靠性。纵使放射科医师领会图像或许依然被变换,他们也很难辨认出图像哪里被变换了。

  当三位阅历足够的临床医师没有被见知他们看到的是“伪制”的肺癌肿瘤图像时,他们99%以为这是癌症。

  “当被问及这个题目时,除了放射科医师贯注到一个移除区域有极少特地外,其他两位医师没有爆发任何特地。”商酌小组说道。

  “至于伪制的癌症,放射科医师的共鸣是,三分之一医师显示需求登时实行手术,全面医师显示都需求后续医治。”

  关于打消了线%的放射科医师没有创造任何题目。纵使放射科医师被申饬说有些图像或许被变换,不过他们仍旧会出错误。临床医师没有贯注到他们看到的肿瘤有61%是假的,87%的医师没有创造可靠的肿瘤依然被打消。

  另外,介入的放射科医师关于他们的决心并不是很有信念。当被问及他们是否确诊了真假癌症时,全面的临床医师都再现出了急急的质疑。

  这种设施乃至100%捉弄了一个基于人工智能的临床决定扶助东西。这让那些人工智能的扶助者感觉恐惧,不过他们信赖人工智能能够更有用地创造人工舛错,并抬高决定实在实性。

  跟着人工智能变得越来越杂乱、医疗编制中恐吓软件攻击和数据宣泄事项的增补,这些粗俗的、改进性的吓唬或许会变得越来越广博。

  公司和构制不得不战战兢兢地护卫他们的根本方法,并付出极大的价值来助助人们奈何正在一个深度练习能够用来窜改险些任何东西的全邦中识别究竟。

  “这篇论文便是念告诉人们一个原形,并警醒他们:倘使人类专家和前辈的人工智能齐全信赖他们的考核结果,他们就有或许被捉弄。”商酌小组持续说道,“咱们指望这篇论文和添补的数据或许助助工业界和学术界应对这一新浮现的吓唬。”