スポンサーリンク

【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック [エリオット★]

未分類
スポンサーリンク
スポンサーリンク
スポンサーリンク
スポンサーリンク

1 :へっぽこ立て子@エリオット ★:2021/02/22(月) 14:04:33.41 ID:CAP_USER.net
 SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。


新機能のイメージ図

 新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

 同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

 これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

 同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。

 同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。


SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html

47 :名刺は切らしておりまして:2021/02/22(月) 16:00:12.64 ID:ivctKZ9v.net

むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな

どんだけ進んだのかしれないが

92 :名刺は切らしておりまして:2021/02/23(火) 00:42:33.29 ID:UvaVLPyN.net

過去の逸話からの引用とかもわかったらすごい

80 :名刺は切らしておりまして:2021/02/22(月) 19:42:20.03 ID:4lNtTzHZ.net

森元がいる会議室みたいになりそう

96 :名刺は切らしておりまして:2021/02/23(火) 09:40:04.14 ID:ZFpqGQnc.net

散歩したい

したい

も星になる。

10 :名刺は切らしておりまして:2021/02/22(月) 14:38:36.12 ID:qhtg0zAk.net

自分たちに都合がいいか悪いかがポイント

86 :名刺は切らしておりまして:2021/02/22(月) 20:16:11.68 ID:a84GKFk3.net

これはデイストピアまっしぐらですな

54 :名刺は切らしておりまして:2021/02/22(月) 16:50:23.66 ID:xZ1WcgSH.net

「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも

48 :名刺は切らしておりまして:2021/02/22(月) 16:11:15.99 ID:YfVKPNAB.net

いいからさっさとアーカイブ機能付けろよ

62 :名刺は切らしておりまして:2021/02/22(月) 17:22:54.35 ID:RiIB2cL4.net

褒め殺しも検知できるのか
ならすごいな

3 :名刺は切らしておりまして:2021/02/22(月) 14:19:34.85 ID:1i2d4c6U.net

縦読みも検知できるの?

99 :名刺は切らしておりまして:2021/02/23(火) 14:54:37.58 ID:d4OL5xC9.net

>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの?

100 :名刺は切らしておりまして:2021/02/23(火) 15:16:21.12 ID:P0um4Bjp.net

>>99
言われた相手も気づかないなら放置して良いかと。

51 :名刺は切らしておりまして:2021/02/22(月) 16:22:42.65 ID:SoA+AIhW.net

>>13
AI には反応しなそう

16 :名刺は切らしておりまして:2021/02/22(月) 14:49:05.30 ID:8j/AEX6q.net

ネットのテレビ化も時間の問題だね

34 :名刺は切らしておりまして:2021/02/22(月) 15:16:14.87 ID:mixLim2i.net

ボッキデータの万能性発揮

73 :名刺は切らしておりまして:2021/02/22(月) 18:26:23.78 ID:FzrYX387.net

アクセス元IPがイギリスか京都のものだったら削除とか?

43 :名刺は切らしておりまして:2021/02/22(月) 15:43:20.27 ID:3cNoxwY1.net

監視社会か
共産主義者ということで

36 :名刺は切らしておりまして:2021/02/22(月) 15:22:49.97 ID:BQuwaDnx.net

>>1
そして書き込みがなくなった

ってことになるんだろうなぁ

70 :名刺は切らしておりまして:2021/02/22(月) 17:51:18.23 ID:+WNlGSZG.net

「元気なお子さんですね」=「うるせえガキだな」

ってのも削除されるのか

53 :名刺は切らしておりまして:2021/02/22(月) 16:33:48.02 ID:O0DR3v6E.net

氏ね ヲ オボエマスタ

13 :名刺は切らしておりまして:2021/02/22(月) 14:41:53.17 ID:EJ1h/X0q.net

>>1
AIには見せかけの流行記事を検知して欲しいと思うw

98 :名刺は切らしておりまして:2021/02/23(火) 11:59:15.46 ID:dSJl1ZrP.net

ぶぶ漬け的なのはいけるかな。

39 :名刺は切らしておりまして:2021/02/22(月) 15:31:15.69 ID:bI25yOD8.net

>>1
ニュース記事からおかしいのあるけどどうするんだ?

55 :名刺は切らしておりまして:2021/02/22(月) 17:03:52.13 ID:A7AZnmhO.net

アルバイト「AI」募集

5 :名刺は切らしておりまして:2021/02/22(月) 14:28:22.80 ID:TaPIGlyO.net

そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの?

77 :名刺は切らしておりまして:2021/02/22(月) 19:18:03.48 ID:H7gi8BVM.net

輝け!

11 :名刺は切らしておりまして:2021/02/22(月) 14:39:23.75 ID:ivctKZ9v.net

中国人というより、サウジアラビアだろ

32 :名刺は切らしておりまして:2021/02/22(月) 15:14:29.62 ID:JT3ixNcy.net

そんなんやったら京都弁がすべてNGになるやんけ

35 :名刺は切らしておりまして:2021/02/22(月) 15:22:21.96 ID:b3mZ09JH.net

>>33
公的な場ではないから検閲にはあたらないでしよ。

75 :名刺は切らしておりまして:2021/02/22(月) 18:57:24.31 ID:aEkFKTI+.net

褒め殺しすればいいんじゃないの

25 :名刺は切らしておりまして:2021/02/22(月) 15:00:36.56 ID:wO30NxE7.net

配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ

33 :名刺は切らしておりまして:2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net

言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。

18 :名刺は切らしておりまして:2021/02/22(月) 14:50:30.60 ID:ivctKZ9v.net

>>16
それは無理だ

87 :名刺は切らしておりまして:2021/02/22(月) 20:21:13.88 ID:uW0eM/GQ.net

コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな?
誹謗中傷に人生かけてるのか?

14 :名刺は切らしておりまして:2021/02/22(月) 14:43:09.96 ID:ivctKZ9v.net

>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか

23 :名刺は切らしておりまして:2021/02/22(月) 14:59:52.83 ID:Jaz0q005.net

六四天安門

104 :名刺は切らしておりまして:2021/02/24(水) 09:28:14.90 ID:g8FAKEZa.net

SHOWROOMはやる人多くて
見る人が少ないから
AKBみたいな有名とこ以外は
気軽に話せる。
夜に酒を飲みながら
女子大生やアイドルとタダで話せるのは最高。

56 :名刺は切らしておりまして:2021/02/22(月) 17:07:39.34 ID:Llt9sLwM.net

あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき

37 :名刺は切らしておりまして:2021/02/22(月) 15:24:35.19 ID:2ySGPU4e.net

ポリコレAi

60 :名刺は切らしておりまして:2021/02/22(月) 17:20:34.13 ID:xZ1WcgSH.net

毒蝮さん:AIの判断により削除されました

綾小路さん:AIの判断により削除されました

85 :名刺は切らしておりまして:2021/02/22(月) 20:14:11.84 ID:VGxM0VJg.net

いよいよ言論統制の時代だな

8 :名刺は切らしておりまして:2021/02/22(月) 14:38:10.17 ID:f3mCBHqt.net

大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること

58 :名刺は切らしておりまして:2021/02/22(月) 17:14:06.45 ID:JuoLGX7D.net

そもそもコメント書き込み機能が要るんか?

59 :名刺は切らしておりまして:2021/02/22(月) 17:16:11.01 ID:P+FY//Zg.net

そのAI
偏ってませんか?

83 :名刺は切らしておりまして:2021/02/22(月) 19:47:53.89 ID:klgryi+w.net

NHK(あ、誹謗中傷しようとしてるな?よし削除!)

46 :名刺は切らしておりまして:2021/02/22(月) 15:57:01.43 ID:kdMgGNKi.net

普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか?

88 :名刺は切らしておりまして:2021/02/22(月) 20:27:01.23 ID:gHx5fCtC.net

はーたんコメント欄が浄化されるのか。よき。

101 :名刺は切らしておりまして:2021/02/23(火) 16:37:57.33 ID:J1h4JGdj.net

そこまでされて見たいコンテンツなのか?

17 :名刺は切らしておりまして:2021/02/22(月) 14:50:23.81 ID:UaYwOke6.net

74 :名刺は切らしておりまして:2021/02/22(月) 18:43:28.62 ID:gJ6iU30F.net

ギフハフは関係ないですね。

コメント

タイトルとURLをコピーしました