生成ＡＩの悪用に警鐘 生成ＡＩ（人工知能）を利用して作られた岸田首相の偽動画がＳＮＳ上で拡散していることが分かった。首相にそっくりな声で卑わいな発言をさせたもので、日本テレビのニュース番組のロゴなども表示されている。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、対策を求める声が高まりそうだ。
偽動画では、背広姿の首相が画面中央で視聴者に向かって語りかけている。日本テレビの番組ロゴのほか、「ＢＲＥＡＫＩＮＧ ＮＥＷＳ」などのテロップが表示されており、首相のオンライン記者会見を報じる番組を悪用して作られたとみられる。首相は、自身の不倫や汚職の疑惑について、開き直ったり、相手を罵倒したりするような発言を繰り返している。しかし、これらの発言はすべて生成ＡＩによって作られたものであり、首相本人のものではない。
生成ＡＩとは、ディープラーニングなどの技術を使って、人間の言葉や声、顔などを模倣したり、新たに作り出したりすることができるＡＩのことである。生成ＡＩは、芸術や教育などの分野で有用な応用が期待されているが、一方で、偽動画や偽ニュースなどの悪用も懸念されている。 偽動画は、真実を歪めて、人々の信頼を損なう危険なものである。特に、政治家や有名人などの影響力の高い人物の偽動画は、世論や選挙などに大きな影響を与える可能性がある。
海外では、トランプ前米大統領やバイデン現米大統領などの偽動画がＳＮＳで拡散されたことがある。また、中国では、生成ＡＩを使って、歴史上の人物や文化的な象徴を侮辱するような偽動画が作られたこともある。 日本でも、偽動画の問題に対する対策が必要になってきている。政府は、偽動画の作成や拡散を防ぐために、法的な規制や技術的な検証などの検討を進めているという。また、一般の人々も、偽動画に騙されないために、情報の出所や信憑性を確認するなどの注意が必要である。生成ＡＩは、人間の創造性や知性を高めるための道具であって、人間の価値や尊厳を傷つけるための武器ではない。生成ＡＩの正しい使い方と悪用の防止について、社会全体で議論することが求められている。
