快適ITライフのために知っておきたい
初めての情報セキュリティー

第39回 AIとサイバーセキュリティー

データ保護におけるAI活用例

人工知能（AI）は、私たち人間の課題を全て解決してくれる救世主なのか、それとも人間はいずれAIの奴隷となるのか……。

昨今、こんな議論をよく耳にするようになった。実際にデジタル化や自動化が進むにつれてマルウェアも高度化し、発電所、病院、空港などの重要インフラが機能不全に陥る危険性はますます高まっているといえるだろう。

AI研究は近年急速に発展しており、特に人間の脳に似た働きをするニューラルネットワークの活用例は増加の一途をたどっている。ニューラルネットワークはトレーニングを重ねるごとに性能や精度が上がり、過去の経験に基づいた判断や予測をすることが可能。

その身近な例としてよく挙げられるのが、スパムフィルターだ。まずは、人間がAIに何がスパムで何がスパムでないかを徹底的に教え込むことから始まる。するとAIは単独かつ高い精度で、メールをスパムフォルダに振り分けるべきかどうかを判断できるようになるのである。

企業においても、同様のシステムがデータ流出防止の目的で使われている。例えば、あるユーザーが短時間に大量の文書にアクセスしたり、不審な行動パターンを示したら、そのユーザーのアカウントをブロックして管理者に通達する、というような仕組みだ。このような使い方をすることで、AIはサイバー攻撃の早期警告システムとしても人間の役に立っているのである。

AIに操られないためには?

一方で、まさにその仕組みをすり抜ける方法をAIに学習させることで、新しいシステムに適応し続ける犯罪者も存在している。インターネットの世界では、AIを使用した闘いがもうすでに本格化しているのである。

しかし、最終的にAIの善悪を決めるのは、やはり私たち人間だ。だからこそ、プログラマーだけでなく、データ保護オフィサー（DPO）、哲学者、法学者などそれぞれの専門家が議論に加わることが非常に重要となってくる。むしろそれができなければ、いつの日か人間がコンピューターに操作あるいはプログラミング（!）されてしまうような事態を防ぐことはできないだろう。「コンピューターが人間のために働く世界」を維持していくには、それ相応の努力が必要だ。