新たなSNS「DYSTOPIA」が登場！AIによる検閲で、全ての投稿が傷つける言葉なしに

“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に
SF小説『1984』をオマージュした、AIが統制するSNS。/ねとらぼ
https://nlab.itmedia.co.jp/nl/articles/2309/25/news103.html

2023年09月25日 12時50分 公開　沓澤真二，ねとらぼ

「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」（iOS版／Android版）が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。


（出典 image.itmedia.co.jp）

誰も傷つかないよう配慮されたSNS「DYSTOPIA」。スマホでのみ利用可能


（出典 image.itmedia.co.jp）


（出典 image.itmedia.co.jp）

全ての投稿はAIの検閲を通したうえで公開される

　意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q＆Aサービス「相談箱」の運営社が立ち上げたサービス。

ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。


（出典 image.itmedia.co.jp）

良くない言葉を投稿した際は、『1984』の絶対権威的存在「BIG BROTHER」が警告

　DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。


（出典 image.itmedia.co.jp）

意味が通るどうかはさておき、検閲により不穏当な表現は排除される

例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「＊○ス！」だったら「私の心中は今お祭り騒ぎですな！」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

　なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。（略）

※省略していますので全文はソース元を参照して下さい。