こんにちは、冬場は足首が氷のように冷える兎々梨です。
内側からキンキンに冷えてる感じあります。
今回は、昨今問題視されている生成AIについての話題です。
2024年11月はXから他SNSへの移住や、公式アカウントによるAI学習防止加工の声明などが出てきているので、「何だ何だ？？？」と気になる方も増えてきたように思います。
この記事は、生成AIが今どんな問題を内包してて、それに付随してどんな良くないことが起こっているのか、1人の絵描きの目線から纏めたものです。
私もこの問題の全てを完璧に追えている訳ではなく、生成AI技術やメカニズムについては他者に説明できるほどにはまだ理解が及んでいません。
なので、今回はあくまで「こういう危険が潜んでいるよ」という注意喚起です。
・イラストを含めた画像生成AIに絞ってのお話をします。
・私はITや法律の専門家でもないので、予めご了承ください。
・この記事は情勢の変化により修正・削除する可能性があります。
目次
①手描き詐欺
これはX(旧Twitter)で、実際に私のタイムラインにも流れてきたものです。
ライバーさんが立ち絵の制作を絵師(?)に依頼したところ(以降Aさんと表記)、その立ち絵は半分AIだったとのことです。
ライバーさんが「これはAIじゃないですよね？」と確認したところAさんは「1から(手で)描いたイラスト」と言ったそうですが、その後再度確認したところ「本当は下書きでAIを使っていた」とのこと。
先に結論を出しておくと、この件最大の問題は「Aさんが嘘をついたこと」です。
ライバーさんは手描きの絵が欲しくて料金(契約)に同意し払っています。もしここで契約内容の”認識相違”が発覚したならば、Aさん側から正直に生成AIの使用を説明し、場合によっては書き直しや返金対応などを提案するべき所です。
しかしAさんは嘘をついてしまった。後から「実は」となると、これは立派な詐欺です。
これだけ見ると生成AIは別に直接的な原因ではないし悪くないのでは？と思うかもしれませんが、「人によっては見分けがつかない＝騙しやすい」という点で非常に問題があると思われます。
②AI生成したイラストが著作権侵害？
これは自分で生成AIを使ってイラストなどを出力した場合のリスクです。
実際に日本で著作権侵害認定されたケースはまだ確認していませんが、恐らく学習元のサインだろう潰れた何かが出てきたり、アニメの版権ロゴが出てきたり、既存の生成AIはかなりきな臭い事例が散見されています。
そういえば海外だと、中国でウルトラマンの生成AIについて生成AIサービス提供事業者の責任を認めた裁判があったような…
個人利用の範囲であれば問題ありませんが、ひとたびネットに上げればリスクは付きまといます(この点は手描きでも一緒です)。
ここで考えうる生成AIだからこその最大のリスクは、ユーザーが無自覚に著作権侵害をしてしまうことです。
※上記ケースは無自覚か意図的かは不明です。
例えば、自分で出力したAIイラストがたまたま好みの出来でグッズ販売してみたら、それが既存のアニメグッズイラストと酷似していて訴えられた。
または販売こそしてないもののSNSにUPしたら既存作者のサインらしきものが発見され、その作者から取り下げ要請が来た。最悪の場合訴訟された。
こんなトラブルが考えられます。
まず責任を問われるべきはサービス事業者ですが、少なくともユーザー本人に疑いがかけられる可能性がゼロとは言い難い状況です。
③検索データが嘘だらけ
これもSNSで話題に上がった内容です。
このようにロココ調のデザインやファッションを調べようとして画像検索すると、有識者が見たら「これ絶対ちがうよな？」という画像も混ざっています。
でも、素人が見ても分からないんですよね。
従来のネットが100%正しかった訳ではありませんが、生成AIが広まってからは正しい情報を見つけることが著しく困難になってしまいました。
中には架空のヤドカリや文鳥も。
現に、私もAIイラストはなんとなく判別がついたりするのですが、写真系はもう難しいというか気付けない自信があります。
こうなると、例え紙の資料本であっても画像データを使っているならいくらでも嘘をつけてしまいます。
資料などで画像を使う人をはじめ、結構迷惑を被っている人は多いのではないでしょうか。
余談：マジで頭抱えてるの法律関係の人だと思う
もちろん画像生成AIに関してダイレクトな被害者は全世界の著作者(クリエイターetc)なのですが、同時に、証拠偽造が…容易になってしまいましたね…。
それだけでなく、生成AIポルノなど取り締まるべき対象も増えました。酷い事例だと他人の顔写真を勝手に取り込んでエロ画像にしたり、児童ポルノに抵触するものを出力してネットにアップロードしているケースもあると聞きます。
主題から少し外れますが、音声も危ないですね。身内の声になり変わって騙すことが出来たり、声紋認証の突破も有り得るかもしれません(有志の声優さん達も声明を出しましたね)。
このような問題は、生成AIが台頭する前からもあったことです。しかし以前まではそれ相応の技術を要するため、必然的に出来る人間も限られており、問題の母数も今よりは少なかったはずです。
これが生成AIによって、著しくハードルが下がりました。
つまり、やろうと思えばPC・スマホで誰でも簡単に犯罪に手を染められる時代になってしまいました。それも、文字(プロンプト)を打つだけで。
従来のネット犯罪や迷惑行為とは規模もタチの悪さも段違いです。
最近だと著名人を騙ったディープフェイクによる詐欺がニュースになっていましたが、これだけ問題点を抱えたツールを「合法」と判断するのはあまりにも無理があるでしょう。合法ではなく無法、という方が正確と思われます。
最後に：問題の核は生成AIそのものにある
今回の記事では、イラスト含めた画像生成AIに関して、私が把握している問題を解説しました。
私の周りにはイラストに触れる機会が多い方、画像を扱う方が沢山いるので、どうか被害や面倒ごとに巻き込まれることがないようにと、その一心で書きました。
私のスタンスとしては、AIの”技術”そのものには別に否定的ではありません(そもそもAIも多種多様なので全てを同列には語れませんが)。現行の生成AIに反対している人の大半も同じ考えではないかと思います。
しかしこのスタンスはあくまで、誰かの著作物を二次利用していないこと、誰かの権利を脅かしていないことが大前提です。
現在世に出回っている画像生成AIのほとんどがこの大前提を満たしていない、またはその疑惑があるので、早急な規制と継続的な監視が必要だと確信しています。技術革新といういかにもな大義名分で倫理観を無視し、他者の尊厳や大切な作品を喰い荒らすような行為は到底容認できません。
これらはもはや個人単位でどうにかできるレベルのものではなく、社会全体で向き合うべき課題です。
私1人にできる事は極めて少ないですが、今後も世界の動向を見つつ、意見公募など可能な範囲で動いていこうと思います。
重たい話に最後までお付き合い頂き、誠にありがとうございました。
風邪のシーズンに加え、今年の初冬は寒暖差が激しいので、皆様お体に気をつけてくださいね。
●今日の一枚●
自探索者の煙草
