2024年6月、TikTokの親会社ByteDanceが進めるAI開発プロジェクトで、あるインターンが「悪意を持って」AIモデルの訓練に干渉したとして解雇されました。この事件は、インターンがAIトレーニングシステムにウイルスを仕込み、GPUのパラメータを改ざんし、1,000万ドル規模の損害を発生させたと報じられています。ByteDanceは、噂の一部は誇張と説明しましたが、今回の事例は、AI技術の進展とともに企業の内部セキュリティ強化が急務であることを示しています。
技術革新と共に増大する内部リスク
解雇されたインターンは、意図的にAIモデルのトレーニングデータを改ざんし、結果としてAIモデルの性能に悪影響を与えたとされています。
AIモデルの信頼性を損なうリスクは、特に製品やサービスに直結する場合、顧客への影響も避けられません。
この事件は、内部のアクセス権が大きなリスクとなる可能性を示しています。
これにより、企業はインターンや新人社員の管理体制を強化する必要性の高さが浮き彫りになりました。
これから、AIを活用する企業はどのような対策をとる必要があるのでしょうか。
AI活用におけるセキュリティ対策とリスク管理
AI活用に伴うリスク管理には、次のような対策が求められます。
データ改ざんの防止：データアクセスの階層分けや権限を厳密に管理し、アクセス権の限定や操作履歴のログを通じて改ざんや不正の発生を抑制します。また、AIモデルの訓練データが改ざんされると、モデルの信頼性が大きく損なわれるため、定期的なデータ監査とチェックが重要です。
アクセス管理と権限設定：アクセス権の定期的な見直しと適切な制御はリスク低減の要です。
特に、プロジェクトに応じて権限を制限し、重要なデータやモデルの操作には厳重な監査体制を導入することが不可欠です。
アクセス権限の付与と削除が適切に行われ、責任者が常に最新の権限管理情報を把握できるような体制を整えます。
内部監査と教育：インターンや新人社員に対しては、特に情報セキュリティの意識を高める教育が必要です。
新規従業員に対する初期教育だけでなく、継続的な研修や訓練を通じて、AI技術やデータ管理のリスク理解を深め、セキュリティ遵守の文化を形成します。
また、教育の範囲には不正行為の具体例を示し、どのような行為がリスクとなりうるかの教育が必要です。
ByteDanceの対応と業界全体への影響
ByteDanceは、インターンによるAIモデルの妨害事件を受けて、アクセス管理や監査体制の強化を発表しました。
この対応は、AI技術の成長に伴うセキュリティ管理の重要性を再認識させ、業界全体に大きな影響を与える可能性があります。企業は、AI技術が事業に不可欠となる中で、内部リスクを軽減するためのセキュリティ対策を強化する必要があります。
まとめ：AI技術とセキュリティの両立を目指して
この事件は、AI技術が企業の中核業務に浸透する中で、単なる技術活用の域を超えた新たなリスク要因を浮き彫りにしました。
これまで企業が主に警戒してきた「外部からの攻撃」に加えて、内部にいる関係者による脅威にも備える必要が急務であることが明確になったのです。
AI技術の活用には膨大なデータや計算リソースが絡むため、これらにアクセスする人間の操作権限や監視体制が適切でないと、甚大な損害を招きかねません。
とりあえず導入するのではなくしっかり計画的にAI技術を導入することで、企業は初めて「持続可能なAI活用」を実現し、社会的な信頼を得ながらAI技術の発展と応用を進めることができるのです。
