【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック [エリオット★]

1: へっぽこ立て子@エリオット ★ 2021/02/22(月) 14:04:33.41 CAP_USER.net
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。 https://image.itmedia.co.jp/news/a…icles/2102/22/l_th_showroom_01.jpg 新機能のイメージ図 新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。 同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。 これまでは視聴者や配…自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。 同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。 同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。 https://image.itmedia.co.jp/news/a…icles/2102/22/l_th_showroom_02.jpg SHOWROOMのオフィス □関連リンク SHOWROOM公式サイト https://showroom.co.jp/ 2021年02月22日 12時29分 公開 ITmedia NEWS https://www.itmedia.co.jp/news/a…icles/2102/22/news086.html

4: 名刺は切らしておりまして 2021/02/22(月) 14:24:29.09 k1KiOOYE.net
そして誰も利用しなくなるっと

5: 名刺は切らしておりまして 2021/02/22(月) 14:28:22.80 TaPIGlyO.net
そんなことより画質を上げろ 中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの?

11: 名刺は切らしておりまして 2021/02/22(月) 14:39:23.75 ivctKZ9v.net
中国人というより、サウジアラビアだろ

16: 名刺は切らしておりまして 2021/02/22(月) 14:49:05.30 8j/AEX6q.net
ネットのテレビ化も時間の問題だね

19: 名刺は切らしておりまして 2021/02/22(月) 14:51:54.69 6ovKLQEK.net
ここにも導入しろハゲ

24: 名刺は切らしておりまして 2021/02/22(月) 15:00:28.16 yy1tmNZK.net
ツイッター社みたいな検閲をするようになるのか

27: 名刺は切らしておりまして 2021/02/22(月) 15:03:23.09 nbfrPjd1.net
つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw ちょっとAIを教育してやりたい

29: 名刺は切らしておりまして 2021/02/22(月) 15:11:12.30 7fWIKBlX.net
「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる?

32: 名刺は切らしておりまして 2021/02/22(月) 15:14:29.62 JT3ixNcy.net
そんなんやったら京都弁がすべてNGになるやんけ

47: 名刺は切らしておりまして 2021/02/22(月) 16:00:12.64 ivctKZ9v.net
むかし、いまはイギリスに買収されたがインテゴって会社の ファイアウォールソフト使ってて、こういう言葉狩り ペアレンタルコントロールというらしいが機能はあったな どんだけ進んだのかしれないが

48: 名刺は切らしておりまして 2021/02/22(月) 16:11:15.99 YfVKPNAB.net
いいからさっさとアーカイブ機能付けろよ

55: 名刺は切らしておりまして 2021/02/22(月) 17:03:52.13 A7AZnmhO.net
アルバイト「AI」募集

57: 名刺は切らしておりまして 2021/02/22(月) 17:11:17.99 CrLQk6vx.net
悪質かどうかの判断を人工知能に支配され、言論統制される人間どもって・・・。

58: 名刺は切らしておりまして 2021/02/22(月) 17:14:06.45 JuoLGX7D.net
そもそもコメント書き込み機能が要るんか?

59: 名刺は切らしておりまして 2021/02/22(月) 17:16:11.01 P+FY//Zg.net
そのAI 偏ってませんか?

60: 名刺は切らしておりまして 2021/02/22(月) 17:20:34.13 xZ1WcgSH.net
毒蝮さん:AIの判断により削除されました 綾小路さん:AIの判断により削除されました

65: 名刺は切らしておりまして 2021/02/22(月) 17:28:30.57 Ex+eBpLm.net
キラ米だらけなのに誰も投げないってのは効くだろなw

67: 名刺は切らしておりまして 2021/02/22(月) 17:35:55.19 nQhyk1SD.net
「良い時計してはりますな」→「話がなげぇんだよ!」 とかも検知できるのかな

73: 名刺は切らしておりまして 2021/02/22(月) 18:26:23.78 FzrYX387.net
アクセス元IPがイギリスか京都のものだったら削除とか?

74: 名刺は切らしておりまして 2021/02/22(月) 18:43:28.62 gJ6iU30F.net
ギフハフは関係ないですね。

81: 名刺は切らしておりまして 2021/02/22(月) 19:43:02.49 NdbBHvKB.net
神武天皇が掛けた日本不滅の呪い。世界最長国、日本の作り方。詳細編 EP13 「淡島」 https://youtu.be/ug0ClnFnMfg

86: 名刺は切らしておりまして 2021/02/22(月) 20:16:11.68 a84GKFk3.net
これはデイストピアまっしぐらですな

88: 名刺は切らしておりまして 2021/02/22(月) 20:27:01.23 gHx5fCtC.net
はーたんコメント欄が浄化されるのか。よき。

95: 名刺は切らしておりまして 2021/02/23(火) 08:41:06.94 itDwnYh0.net
〜だしねって会話調で書き込んだら〜だ☆になる素晴らしいAI

97: 名刺は切らしておりまして 2021/02/23(火) 11:48:40.49 Qxx44+M7.net
元から秋豚アイドルの配信でしか使われてない

引用元: http://anago.2ch.sc/test/read.cgi/bizplus/1613970273/