1 ：へっぽこ立て子＠エリオット ★：2021/02/22(月) 14:04:33.41 ID:CAP_USER.net
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。
新機能のイメージ図
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
SHOWROOMのオフィス
□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/
2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html
47 ：名刺は切らしておりまして：2021/02/22(月) 16:00:12.64 ID:ivctKZ9v.net
むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな
どんだけ進んだのかしれないが
92 ：名刺は切らしておりまして：2021/02/23(火) 00:42:33.29 ID:UvaVLPyN.net
過去の逸話からの引用とかもわかったらすごい
80 ：名刺は切らしておりまして：2021/02/22(月) 19:42:20.03 ID:4lNtTzHZ.net
森元がいる会議室みたいになりそう
96 ：名刺は切らしておりまして：2021/02/23(火) 09:40:04.14 ID:ZFpqGQnc.net
散歩したい
したい
も星になる。
10 ：名刺は切らしておりまして：2021/02/22(月) 14:38:36.12 ID:qhtg0zAk.net
自分たちに都合がいいか悪いかがポイント
86 ：名刺は切らしておりまして：2021/02/22(月) 20:16:11.68 ID:a84GKFk3.net
これはデイストピアまっしぐらですな
54 ：名刺は切らしておりまして：2021/02/22(月) 16:50:23.66 ID:xZ1WcgSH.net
「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも
48 ：名刺は切らしておりまして：2021/02/22(月) 16:11:15.99 ID:YfVKPNAB.net
いいからさっさとアーカイブ機能付けろよ
62 ：名刺は切らしておりまして：2021/02/22(月) 17:22:54.35 ID:RiIB2cL4.net
褒め殺しも検知できるのか
ならすごいな
3 ：名刺は切らしておりまして：2021/02/22(月) 14:19:34.85 ID:1i2d4c6U.net
縦読みも検知できるの？
99 ：名刺は切らしておりまして：2021/02/23(火) 14:54:37.58 ID:d4OL5xC9.net
>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの？
100 ：名刺は切らしておりまして：2021/02/23(火) 15:16:21.12 ID:P0um4Bjp.net
>>99
言われた相手も気づかないなら放置して良いかと。
51 ：名刺は切らしておりまして：2021/02/22(月) 16:22:42.65 ID:SoA+AIhW.net
>>13
AI には反応しなそう
16 ：名刺は切らしておりまして：2021/02/22(月) 14:49:05.30 ID:8j/AEX6q.net
ネットのテレビ化も時間の問題だね
34 ：名刺は切らしておりまして：2021/02/22(月) 15:16:14.87 ID:mixLim2i.net
ボッキデータの万能性発揮
73 ：名刺は切らしておりまして：2021/02/22(月) 18:26:23.78 ID:FzrYX387.net
アクセス元IPがイギリスか京都のものだったら削除とか？
43 ：名刺は切らしておりまして：2021/02/22(月) 15:43:20.27 ID:3cNoxwY1.net
監視社会か
共産主義者ということで
36 ：名刺は切らしておりまして：2021/02/22(月) 15:22:49.97 ID:BQuwaDnx.net
>>1
そして書き込みがなくなった
ってことになるんだろうなぁ
70 ：名刺は切らしておりまして：2021/02/22(月) 17:51:18.23 ID:+WNlGSZG.net
「元気なお子さんですね」＝「うるせえガキだな」
ってのも削除されるのか
53 ：名刺は切らしておりまして：2021/02/22(月) 16:33:48.02 ID:O0DR3v6E.net
氏ね ヲ オボエマスタ
13 ：名刺は切らしておりまして：2021/02/22(月) 14:41:53.17 ID:EJ1h/X0q.net
>>1
AIには見せかけの流行記事を検知して欲しいと思うw
98 ：名刺は切らしておりまして：2021/02/23(火) 11:59:15.46 ID:dSJl1ZrP.net
ぶぶ漬け的なのはいけるかな。
39 ：名刺は切らしておりまして：2021/02/22(月) 15:31:15.69 ID:bI25yOD8.net
>>1
ニュース記事からおかしいのあるけどどうするんだ？
55 ：名刺は切らしておりまして：2021/02/22(月) 17:03:52.13 ID:A7AZnmhO.net
アルバイト「AI」募集
5 ：名刺は切らしておりまして：2021/02/22(月) 14:28:22.80 ID:TaPIGlyO.net
そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの？
77 ：名刺は切らしておりまして：2021/02/22(月) 19:18:03.48 ID:H7gi8BVM.net
輝け！
11 ：名刺は切らしておりまして：2021/02/22(月) 14:39:23.75 ID:ivctKZ9v.net
中国人というより、サウジアラビアだろ
32 ：名刺は切らしておりまして：2021/02/22(月) 15:14:29.62 ID:JT3ixNcy.net
そんなんやったら京都弁がすべてNGになるやんけ
35 ：名刺は切らしておりまして：2021/02/22(月) 15:22:21.96 ID:b3mZ09JH.net
>>33
公的な場ではないから検閲にはあたらないでしよ。
75 ：名刺は切らしておりまして：2021/02/22(月) 18:57:24.31 ID:aEkFKTI+.net
褒め殺しすればいいんじゃないの
25 ：名刺は切らしておりまして：2021/02/22(月) 15:00:36.56 ID:wO30NxE7.net
配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ
33 ：名刺は切らしておりまして：2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
18 ：名刺は切らしておりまして：2021/02/22(月) 14:50:30.60 ID:ivctKZ9v.net
>>16
それは無理だ
87 ：名刺は切らしておりまして：2021/02/22(月) 20:21:13.88 ID:uW0eM/GQ.net
コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな？
誹謗中傷に人生かけてるのか？
14 ：名刺は切らしておりまして：2021/02/22(月) 14:43:09.96 ID:ivctKZ9v.net
>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか
23 ：名刺は切らしておりまして：2021/02/22(月) 14:59:52.83 ID:Jaz0q005.net
六四天安門
104 ：名刺は切らしておりまして：2021/02/24(水) 09:28:14.90 ID:g8FAKEZa.net
SHOWROOMはやる人多くて
見る人が少ないから
AKBみたいな有名とこ以外は
気軽に話せる。
夜に酒を飲みながら
女子大生やアイドルとタダで話せるのは最高。
56 ：名刺は切らしておりまして：2021/02/22(月) 17:07:39.34 ID:Llt9sLwM.net
あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき
37 ：名刺は切らしておりまして：2021/02/22(月) 15:24:35.19 ID:2ySGPU4e.net
ポリコレAi
60 ：名刺は切らしておりまして：2021/02/22(月) 17:20:34.13 ID:xZ1WcgSH.net
毒蝮さん：AIの判断により削除されました
綾小路さん：AIの判断により削除されました
85 ：名刺は切らしておりまして：2021/02/22(月) 20:14:11.84 ID:VGxM0VJg.net
いよいよ言論統制の時代だな
8 ：名刺は切らしておりまして：2021/02/22(月) 14:38:10.17 ID:f3mCBHqt.net
大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること
58 ：名刺は切らしておりまして：2021/02/22(月) 17:14:06.45 ID:JuoLGX7D.net
そもそもコメント書き込み機能が要るんか？
59 ：名刺は切らしておりまして：2021/02/22(月) 17:16:11.01 ID:P+FY//Zg.net
そのAI
偏ってませんか？
83 ：名刺は切らしておりまして：2021/02/22(月) 19:47:53.89 ID:klgryi+w.net
NHK(あ、誹謗中傷しようとしてるな？よし削除！)
46 ：名刺は切らしておりまして：2021/02/22(月) 15:57:01.43 ID:kdMgGNKi.net
普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか？
88 ：名刺は切らしておりまして：2021/02/22(月) 20:27:01.23 ID:gHx5fCtC.net
はーたんコメント欄が浄化されるのか。よき。
101 ：名刺は切らしておりまして：2021/02/23(火) 16:37:57.33 ID:J1h4JGdj.net
そこまでされて見たいコンテンツなのか？
17 ：名刺は切らしておりまして：2021/02/22(月) 14:50:23.81 ID:UaYwOke6.net
村
74 ：名刺は切らしておりまして：2021/02/22(月) 18:43:28.62 ID:gJ6iU30F.net
ギフハフは関係ないですね。
コメント