进入2024，人工智能(AI)的热潮持续升温，面对日新月异的人工智能技术，我们不禁要问：这些聪明的算法，会给安全自动化领域带来变革吗?

答案毋庸置疑，人工智能正在改变世界……但是，AI的安全性该如何保证呢?

AI与机械安全的结合

AI是基于数学的编程代码，旨在模仿人类的行为以及自动化决策的过程。20世纪60年代奠定了AI技术的基础，但直到今天，随着硬件的进步、新的概念的涌现以及新算法的开发，AI才真正迎来了发展的春天。

对于那些传统算法和技术无法解决的问题，AI技术的发展为我们提供了克服这些问题的可能性，为新的商业领域、商业模式、产品和服务开辟了空间。但想要将人工智能技术与机械安全技术相结合，必须要面对的一个挑战便是AI的“black box”的特性，我们无法预测或理解复杂的AI系统是如何做出决策的，而这一点恰恰是功能安全的关键。

AI在机械安全中的应用要求

人工智能技术在机械安全中的应用要求主要涉及三个关键方面，即安全性、透明度和可靠性，在实施AI机械安全时，必须充分考虑和实现。

安全性(Safety & Security)

安全性是指AI系统在执行其功能时，不会对人员、财产或环境造成损害的能力。在机械安全领域，意味着AI系统必须能够在预期的操作条件下正常工作，同时在出现异常或故障时采取适当的安全措施，因此AI系统的设计和实施必须遵循严格的安全标准，如ISO 26262(道路车辆功能安全)或IEC 61508(电气/电子/可编程电子系统的功能安全)等。

透明度(Transparency)

透明度是指AI系统的决策过程能够被理解和解释，这有助于建立用户对AI系统的信任，并在出现问题时快速定位和解决问题。在机械安全领域，这意味着操作人员和安全工程师需要能够理解AI系统是如何做出特定决策的，以便在必要时进行干预或改进。

可靠性(Reliability)

可靠性是指AI系统能够在长时间内持续稳定地执行其预定任务的能力。在机械安全领域，AI系统的可靠性至关重要，因为它直接关系到系统的安全性能。为了提高AI系统的可靠性，技术人员会使用各种算法和方法来量化系统的不确定性，确保AI系统能够在其决策中识别出无效输入，并作出适当的响应。此外，可以通过采用适当的系统架构和设计概念，提高AI系统的可靠性。

立法与标准的跟进

欧盟AI法案(EU AI Act)为AI系统的发展、部署和使用提供了统一规则，同时也关注个人安全和基本权利，目前普遍应用的算法都属于该法案的范畴，只是目前该法案尚处于起草阶段。

欧盟机械指令(EU Machinery Regulation)已经要求在功能安全中使用AI系统时必须进行符合性合规评估，所以安全相关的AI系统均被列为“高风险机械”。这对于像皮尔磁PILZ这样的制造商而言，哪怕是已经符合相关的协调标准，也必须由公告机构参与符合性合规评估。

ISO/IEC CD TR 5469“人工智能 — 功能安全和AI系统”，是一个正在制定中的国际标准，它专门针对AI系统在功能安全领域的应用，旨在为AI系统的设计、开发、集成和验证提供指导，确保这些系统在安全相关的应用中能够可靠地执行其功能。

作为安全自动化领域的佼佼者，皮尔磁PILZ正密切关注AI技术的发展，并在机械安全领域进行深入的研究。皮尔磁的使命是确保AI技术在保护人类和机械方面的应用是安全和可靠的。在这个AI的新时代，皮尔磁将和您一起，共同探索和实现更安全、更可靠和更高效的自动化未来。

（来源：皮尔磁）