第三，我们整合技术和控制，通过确保应用程序安全可控来防止技术滥用。他强调，“新技术是一把双刃剑，我们需要防止新技术被滥用并造成信息泄露、道德困境等社会风险。”
如果攻击者没有获得任何好处，那么人工智能才是真正安全的
“人工智能到底安全到什么程度？”一直是学术界和工业界关注的焦点。如果人工智能的安全呈现出新的属性，那么什么理论标准足以验证人工智能技术的应用是否安全？
圆桌对话。图片提供：主办方
“人工智能本身并不是孤立存在的”，朱军指出，由于人工智能与其运行环境中的底层硬件存在诸多交互，以及人工智能本身的边界不断变化。目前很难采用严格、正式的方法。验证人工智能系统的安全性。
北京科技大学教授陈建生也认为，人工智能模型的应用环境并不是孤立的。 “在互联的环境下，肯定需要大量的使用和修改。如果这个过程中发送的特殊数据稍有变化，模型就很容易被打破。”他坦言。没有模型。它不能被攻击。 ”
北京邮电大学教授、网络空间安全学院副院长邓伟红表示，就人工智能的边界而言，即使有像人脸识别这样精准的AI技术，边界仍然很宽。提议。准确率达到99.9% 的模型很容易被破坏。另一个例子是面部生物检测，它已经演变成印刷照片、三维面具和硅胶面具。无论使用什么算法来检测生物体，总会有更高级别的攻击来解密它。人工智能使得完美变得困难。 “防御原因”。
对此，朱军建议，可以采用防火墙等各种方法来提高攻击阈值，除非对攻击者有好处，否则解决办法就是“攻击的成本大于预期的好处”。我试图提出一个解决方案。 ”，可以说人工智能智能系统是安全的。邓伟宏也认为，面对不确定的人工智能，这是一个“更好的解决方案”。
不过，不少专家表示，确定多高的“门槛”还取决于良好的理论基础。邓伟红指出，目前解决安全问题的方法都是针对特定任务甚至特定场景，仍然缺乏数学或模型理论的安全保证。 “我们不怕我们的模型会犯错误，我们害怕的是，如果我们犯了错误，我们不知道为什么，也不知道如何防止模型下次再犯。” “我们不知道。”陈建生说。他坦白地说。
南都记者从会上获悉，北京航空航天大学教授、软件开发环境国家重点实验室副主任刘祥龙及其团队已启动人工智能安全评估工作。他强调，人工智能应用的安全问题“怎么强调都不为过。我们现在关心的是如何评估这些系统的安全性？”
例如，您必须首先生成包含自动驾驶、自动零售等不同类型的测试数据和样本。测试完成后，应对系统的安全性进行分析，并从学习方法、学习技术等方面评估不同配置下生成的模型的安全性。模型和算法为了提高系统的安全性，还需要从数据和模型环节提供丰富的方法。
北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙说。图片提供：主办方
刘向龙透露，基于标准化流程和技术手段，将搭建一个平台，将算法库、模型库、资源库、评价指标库等整合起来，形成一个通用的评价流程。不过他也表示，虽然目前的评估只是在算法层面进行，但未来的人工智能安全需要从数据到算法到系统的各个层面进行全面评估。
人工智能治理：鼓励技术并监督其使用
人工智能治理必须参与，确保人工智能安全。今年以来，新加坡、欧盟、美国、中国等国家的监管机构和第三方机构纷纷发布人工智能治理测试工具箱和技术监管沙箱，以便利人工智能治理的实施。
华为值得信赖的AI安全解决方案专家唐文表示，欧盟的《人工智能法案》法案是发展最快的，其重点是人工智能是否会被滥用。 “我们相信它（EU 《人工智能法案》）实际上促进了负责任的人工智能，这意味着人工智能治理流程首先要求人工智能参与者承担责任。你的人工智能系统“如果出现问题我可以找你负责你的人工智能系统。”“我可以责怪你。”“人们。”我相信这是一个重要的起点。
放眼中国，邓伟红直言，“人工智能的治理是个大问题”。他指出，人工智能已经在影响人们的生活，比如推荐算法在手机的日常浏览中运行，甚至影响着人们的价值观。
不过，他表示，虽然以前很难获取一些个人信息，比如面部信息，但现在有些人可以利用面部识别技术来分析许多以前不可能的事情。 “人工智能可能使保护数据和隐私变得比以前更加困难……因此，人工智能的治理对于防止数据霸权和保护数据和隐私至关重要。” 。
“在管理人工智能技术方面，技术本身的责任并不是那么大，技术是中立的，偏见和恶意可能来自收据收集过程，而不是算法”。他认为，更重要的是在追踪应用场景和用户方面进行监督。
他以会议提交的材料为例，他表示，现在许多人工智能会议都要求贡献者对他们提出的模型和算法做出声明，并告知他们这项技术对社会的负面影响，这意味着需要更多的考虑。创建算法时需要承担社会责任，研究人员必须考虑最终的实际影响。例如，由于潜在的隐私影响，与用于监控的面部识别相关的提案可能不会在会议上被接受。
他认为，由于人工智能还处于比较早期的阶段，技术发展需要鼓励，“（人工智能）不应该从技术角度进行监管，而应该鼓励，并且在使用时可能受到监控” 。 ”
采访与写作：实习生梁秉健、南都记者姜琳
本文和图片来自网络，不代表火豚游戏立场，如若侵权请联系我们删除：https://www.huotun.com/game/560976.html