バッハの新曲はAIの作曲!? 人工知能による創作とフェイクの危険

2019年4月18日 12:10

印刷

AIによる創作を見破るのもAIになるのかもしれない。

AIによる創作を見破るのもAIになるのかもしれない。[写真拡大]

 機械学習という処理能力が与えられたことにより、AIは人の力を借りずに自分で能力を高めることが可能になった。従来の機械は人間がプログラムを書いて「処理」を指示することが必要だったが、学習機能を持つAIはこの「人による指示」という過程をスキップしてしまう。

 AIは20世紀までに存在した従来の機械の領域を大きく超えており、計算処理装置としてのコンピューターでは考えられないほど複雑な「処理」をこなし始めている。このためか、AIが登場して以来、いろいろな場面で人間と人工知能の能力が比較される機会が多い。

 現在のAIはかつての機械には不可能とされていた分野にもその能力を発揮し始めている。最近Googleが発表したAIは、17世紀の作曲家J.S. バッハの作風に基づいて、新たなクラシック音楽を「作曲」するものだ。

 「人工知能の処理」と「人間による活動」の差が小さくなってきている。今回は、AIのデータ処理の進歩と信頼性の話題について、アメリカの報道から見てみたい。

● AIによる創作活動

 GoogleのネットサービスDoodleはユーザーが入力した音楽を「バッハ調」の音楽に変換するAIだ。このAIはバッハの作曲した306の音楽を「学び」、このデータを基にしてバッハの作風を理解する。バッハの全作品は1,000曲を超えるが、そのうち306曲に限ったのは、データ処理の容易さを考えての選別があってのことだろう。

 バッハの音楽は構成が音楽理論に従って作曲されているものが多いため、論理的な分析・記述に適しているということもある。306の曲に共通するパターンを読み取って、その特徴をインプットされた楽譜に反映させることで、Doodleはバッハの作風による楽譜を「作曲」する。

 このAIによるプロセスを、人工知能が「作曲した」とみなせるかどうかについては議論がある。但し、AIによって作られた作品が、人間が作ったものと見分けがつかないほど精巧になっていることは、疑いがない。

 2018年の初めにインターネットに公開された、オバマ前大統領が現代社会の危険性について述べているビデオ画像が話題になった。この画像はCGとAIにより作られた完全なつくりものだが、オバマ前大統領の話し方、口ぶりを非常によく再現しており、身振りや表情の動きも自然で、まるで本物のオバマ氏が語っているように見える。

 会話用の人工音声ソフトウェアを提供するリラバード社 は、オバマ前大統領とヒラリー・クリントン氏、トランプ大統領の3人の会話を広告用のデモとして作成。この3人による会談は実際には一度も行われていないが、リリースされたテープはまるで本物のように聞こえる。

●AIによるフェイクは防げるか

 アメリカの非営利団体OpenAIは、実在の人物の文書を真似て架空の文書を作ることができるソフトウェアを作成した。これは任意の作者の作品をデータベースとして、その言葉の選び方や表現を真似て文章を書くもの。このAIソフトはケネディ元大統領の文書を真似てスピーチを書き、J.R.R.トールキン「指輪物語」の作風に学んで小説を書くことができるという。

 このAIが作成する文章はあまりに精巧で本物と見分けがつかないため、OpenAIはフェイクニュースに応用される危険性が高いとしてソフトのリリースを取りやめた。

 2019年1月、ニューヨークの民主党女性議員、アレックス・コルテス氏の自撮りのヌード画像が流出し、これがCBSのテレビニュースで放映されてスキャンダルになった。後にこの画像はAIにより作られたフェイクであることが分かったが、ネット上のコンテンツが信頼できないものになってきていることを思い知らせてくれた。

 アメリカでは2020年の大統領選挙に向けて、AIを使ったこのような「ディープフェイク」コンテンツが大量に出回ることが懸念されている。

 Doodleが作曲したバッハの作品は、バッハ本人は決して選ばない音楽上の選択をしている。また音楽理論上も、間違った構成を許容しているところがあり、バッハの研究者が見れば本人の手になるものではないことが分かるという。

 AIが作ったCG画像の中の人物は、本当のビデオに比べて瞬きの回数が少ないことが分かっており、これを隠すためにCG画像の人物は目が半分閉じているような姿で話すシーンが多いといわれる。しかしこのような欠点は、やがて「学習」されて修正されるだろう。

 CG画像の瞬きの回数というチェックポイントはAIにより発見されたものだ。このような悪意あるAIに対するカウンターAIの技術は、今後、果てしないいたちごっこになると予測される。AIによるディープフェイクを見極めるためには、ネットの情報をネットの外で確認することが必要になるだろう。ネット上の分断された情報を、より大きなコンテクストの中で理解することが求められるのだ。

 インターネット上で提供される全ての電子情報について、フェイクであるかもしれない可能性を考慮するべき時が近づいている。(記事:詠一郎・記事一覧を見る

関連キーワード

関連記事