外滩大会：AI创新与防范作恶，路在何方？
外滩大会规模与创新
今年的外滩大会正式闭幕，其规模和国际嘉宾数量均创下历史新高，吸引了5.2万人现场参会，涵盖了各个年龄段。大会以“科技·创造可持续未来”为主题，举办了丰富多样的活动，包括开放见解论坛、创新者舞台、AI创新赛事、展览、绿色生活节和科技人才招聘会等。
丰富多样的活动形式
在3天的时间里，外滩大会呈现了36场开放见解论坛，为各界人士提供了交流和分享的平台。10多场创新者舞台则展示了前沿的科技成果和创新理念。2场AI创新赛事激发了参与者的创新思维和竞争意识。而1万平方米的展览场地更是汇聚了众多企业，展示了最新的科技产品和应用。
注重人文体验的特色
本届外滩大会重视人文性，开幕式上独臂男孩借智能仿生手演奏钢琴的瞬间令人动容。在展区，观众可以体验将脑电波可视化，还能感受“远程拥抱”等创新设备，这些都体现了科技与人文的融合。
AI医疗的崛起
在为期三天的展览中，AI医疗领域备受关注，相关产品和企业展台前人头攒动。人们对诸如“爸妈记忆力下降了怎么办?”“AI如何辅助癌症筛查?”等问题充满关切。
先进的技术与应用
达摩院医疗AI实验室展出的AI医学影像分析产品，能够从平扫CT中进行多种癌症及慢性病的筛查，准确率高达90%以上，有效提升了医生的工作效率，弥补了医疗资源不均衡的问题。
面向不同用户的服务
博斯腾科技的展台吸引了大量老年观众，其产品能通过多种方式检测阿尔兹海默病，并生成专属脑健康训练计划。支付宝发布的“AI健康管家”为用户提供了多项AI健康服务，百川智能也将在大医疗AI领域重点投入。
面临的挑战与限制
尽管AI医疗发展迅速，但目前许多产品的诊疗效果仍缺乏公开数据或第三方权威机构的验证，且无法完全替代医生诊疗，主要起辅助作用。
以AI对抗AI的挑战
随着AI技术的发展，如何预防其“作恶”成为外滩大会的热点话题，尤其是Deepfake带来的欺诈等问题。
Deepfake带来的威胁
Deepfake滋生欺诈等黑色产业链，造成经济财产损失和名誉受损等事件，其攻击量呈指数级上升，成为全球挑战。
AI应对Deepfake的尝试
在外滩大会的AI创新赛中，观众亲身感受了Deepfake的逼真，同时也看到了AI识别AIGC伪造图片的能力。人类和AI在识别伪造图片上存在差异，一些难以识别的图片往往给人类带来更大损失，因此用AI应对Deepfake具有重要意义。
防范Deepfake的措施
研发检测算法是遏制Deepfake技术滥用的方式之一，但更应从标准和立法角度，要求给AIGC内容建立通用标识，以从根源上防范欺诈行为。重视技术治理和AI伦理委员会的作用也至关重要。
外滩大会展示了AI技术的巨大潜力和创新成果，同时也让我们更加关注如何引导AI向善，使其更好地服务人类社会。
相关问答
外滩大会的主题是什么？
外滩大会的主题是“科技·创造可持续未来”。
AI医疗产品主要面向哪些客户？
AI医疗产品的客户主要是医院、体检机构、保险公司、公益组织以及软件厂商等，但也有不少个人对其感兴趣。
AI医疗产品能完全替代医生诊疗吗？
不能，AI医疗产品目前无法完全替代医生诊疗，主要起辅助作用。
Deepfake会带来哪些危害？
Deepfake会滋生欺诈等黑色产业链，导致经济财产损失、名誉受损等。
如何防范Deepfake技术滥用？
可以从研发检测算法、建立标准和立法要求给AIGC内容建立通用标识等方面防范。
AI伦理委员会有什么作用？
AI伦理委员会可以在技术前进时，关注可能受到影响的人群，保障技术的合理应用。
