最新の ML アルゴリズムは不透明で脆弱であり、データの汚染や改ざんなど、さまざまな摂動の影響を受けやすい性質があります。現実のシステムに AI を導入するには、ML アルゴリズムの安全性、ロバスト性、信頼性を評価する必要があります。これらの問題がシステムの性能や動作に与える可能性のある影響について説明します。