海外のFacebookにおける『あつまれ どうぶつの森（以下、あつ森）』コミュニティが、あらぬ疑いをかけられる憂き目に遭っている。その容疑は「大麻取引」。いったいなぜそんな事態になったのか、問題の鍵は「雑草」にあった。Polygonなどが報じている。
イギリスにおける『あつ森』コミュニティは現在、3万5000人近いメンバーを擁する一大共同体となっている。そんなグループに管理者から、あるお知らせが通達された。その内容とは「“weed（雑草）”という単語と“trade（取引）”という単語をひとつの投稿内で使わないでください」というもの。
それというのも、Facebook運営はこれらの単語が入った投稿を削除しているらしいのだ。コミュニティの運営者が海外メディアのPolygonに語っている。アナウンスでは”weed”の代わりとして、文脈に合わせて“wildflowers（野草）”や“gardening tidying（庭の片付け）”といった単語を使うように呼びかけられている。
なぜ”weed”が取り沙汰されているのか。これは英語圏のスラングにまつわる問題だ。ときに日本語で「ハッパ」が大麻を意味することがあるように、“weed”も単に雑草だけでなく麻薬を表す隠語として用いられる場合がある。
Facebookが公式に発表しているコミュニティ規定では「個人、製造業者、小売業者による医療用でない薬物、医薬品、マリファナの販売取引を禁止」することを明確に記載。どうやらFacebook側は、“weed”と“trade”というふたつの単語から大麻取引の可能性を類推し、該当する投稿を自動的に削除していると見られる。
コミュニティ管理者は自身が受け取ったというFacebook側からの規約違反通知／警告のスクリーンショットを掲載。「管理者の規約違反はグループにリスクをもたらします」との文言とともに、規約違反の投稿が続けばコミュティが閉鎖される可能性について示唆されている。また、今後起こりうる処置について「投稿の削除」や「違反の可能性を含むポストへの自動的なフラグ付け」が言及されている。
グループ管理者がPolygonに語ったところによれば、すでに4つの投稿に「問題あり」のフラグが付けられており、いずれも“weed”の単語を含んでいたそうだ。管理者は現在Facebookから誤解を受けるリスクのある投稿を自主的に削除しているという。
同様の問題は別のコミュニティでも発生しているらしく、似た事例がSNS上で伝えられている。
Facebookが2019年11月に公開した「コミュニティ規定施行レポート第4版」によれば、2019年第3四半期には薬物販売に関連したコンテンツが440万件削除され、そのうち97.6％を事前に検出したという。同社は「自殺と自傷行為」「テロリストによるプロパガンダ」「児童のヌードと性的搾取」等に並び、「規制対象品(特に銃火器および薬物の不法な販売)」を有害なコンテンツとして位置付けている。
これらの排除にあたっては、過去5年間にわたりAIによる自動検出に投資を続けてきたといい、違反コンテンツの検出率と削除率はいずれの分野でも向上しているという。システムの進歩でポリシーが保たれる一方、人工知能がもたらした誤謬に思わず巻き込まれてしまったのが今回の一件といえるだろう。
なおFacebookによる「有害」判定を被っているのは雑草だけではないという。『あつ森』における人気住民のひとり、「カモミ」に関する話題も削除の被害を受けているとの報告がある。ここで問題となるのは彼女の海外版名称だ。英語圏におけるカモミの名前は“Molly（モリー）”。
モリーは、合成麻薬として悪名高い「MDMA」の別称としても知られる単語だ。一般的にはカラフルな錠剤としてのイメージが強いMDMAだが、モリーは混合物がなく純度の高い粉末状のMDMAをカプセルに封入したものとして取引されている。
『あつ森』といえば、人気の高い住民がしばしばプレイヤー間で取引される文化も特徴。それゆえFacebookをはじめとしたSNSでは“Molly Trade”といった単語が並ぶことは何ら不思議なことではない。しかしTwitterでは「Mollyという単語を含んだコミュニティ上の投稿が削除された」との報告も見られる。こちらの真偽は定かではないものの、本当だとすればFacebookによる検出率と削除対応の厳格さは相当なものといえそうだ。
平穏な『あつ森』コミュニティで突如巻き起こった麻薬取引疑惑。背景にあるのはちょっとしたボタンの掛け違えに過ぎないものの、思わぬ発言がより大きなトラブルへつながってしまわないことを祈るばかりだ。
Tweet Pocket Share on Tumblr