「誰も悪口や中傷されない。そんなことは許されない」

というのが、日本の新しいSNSプラットフォームの目指す方向にほぼ近いみたいだね。AIの手助けによって、有害なものをほぼ完全に取り除くことができる、新しいソーシャルメディア・プラットフォームが登場しているのは知っている？

最近のオンラインは、ちょっと毒が多いかも

ちょっとまえに大手テック企業、とくにソーシャルメディア企業が議会で公聴会を開いたんだ。前回の公聴会には、メタ（フェイスブック）、TikTok、X（ツイッター）、スナップチャット、ディスコードなどが参加したらしいよ。

この公聴会は、「ソーシャルメディアが未成年の子供たちに与える危険について具体的に説明する」ものだったんだけど、これらの大企業が問題に直面するのは今回が初めてじゃないんだ。

ソーシャルメディアって、ひとびとのつながり方を変えたよね。いまの時代は、無料で無制限にアカウントを作れるから、インターネットに飛び込んで、すぐに反撃を受けることなく人にいやなことをいえちゃうんだ。

そんな中で日本では、ユートピアを作るために、2023年9月にすべての投稿をAIの助けを借りてポリシー化する、SNSプラットフォーム「ディストピア」が始まったんだ。

たとえば、「ムカつく」という言葉を使うと、アルゴリズムによってフィルタリングされて「あなたの投稿はAIによって検閲されました」という意味のテキストが表示されるみたいだよ。

投稿を完全にブロックする代わりに、「ムカつく」なら、「ちょっと腹が立ちますね」とかに置き換えられるんだ。

取りしまりはすべてAIが行うけど、AIがまもるルールや基準はいろんな時点で変わるみたいだね。2023年10月のSNSプラットフォームでは、2つの方法があるよ。つまり、投票制度と検閲ルールを提案できるプランだね。

ディストピア検閲

最近はAIがよく話題になっていますが、テキストベースの人工知能と言えば、ChatGPTが先駆けですね。この場合、SNSプラットフォームDystopiaはChatGPTと統合し、不適切と判断した単語をよりおだやかなものに置き換えます。

フィルタリングされる単語はほかにもあります：

• 「ゴミ」→ 「わたしのまわりはいつもきれいに保たれています！」や「わたしはきれい好きです」
• 「消えて」→ 「わたしのような存在になってください！」

ディストピアを作った株式会社「相談箱（そうだんばこ）」の大森社長によれば、誹謗中傷をなくすことだけが目的ではなかったようですよ。

CEOの言葉

"わたしはもともと、SNSの悪口をもっとトーンダウンした言葉に置き換えることができれば、もっとしあわせに生きられるのではないかと考えていました。"

"でも、そんなことをしたら警察国家みたいになってしまうし、監視が行きとどいている現状はまさにディストピアだ"。

"わたしがほんとうにやりたいことは、ひとびとが『言論の自由を規制してほんとうにしあわせになれるのか』と考えることです"

毒がないSNSがベスト？

ディストピアはリリース以来、4日間で5万人が登録しました。その成長はすごいスピードだとわたしは思いますが、みなさんはどう思われるでしょうか？

悪口やいやなことは社会の問題ですが、ヘイトスピーチや誹謗中傷、毒性を全部検閲してしまったら、警察国家になってしまうんじゃないかと思いますか？　もしそうなら、それがいちばんいい方法なのでしょうか？　そして、つねに監視されているという状況で、わたしたちは幸せに暮らせるでしょうか？

この記事では「悪い」言葉を消したり変えたりするプラットフォームを取り上げましたが、それだけでは終わりません。SNSではほかにも、不適切な写真やプレデターが、無防備なこどもたちをDMで攻撃することもあるんです。

政府はSNSがわたしたちの考え方を混乱させる悪いコンテンツを発信しているのではないかと疑っていて、世界中の政府関係者のあいだで心配が広がっています。

ソーシャルメディアが発展するにつれて、わたしたちの生活をもっとよくするためにどう改善できるか、考えてみる必要がありますね！