{"error":0,"parameter":{"forum_id":61,"topic_id":465302,"topic_4p_id":2186045,"topic_title":"Counter-Strike: Global Offensive: KI-Moderator sperrt 20.000 Spieler aufgrund \u0026quot;giftiger\u0026quot; Chat-Beitr\u00e4ge","num_posts":276,"num_pages":56,"current_page":1,"posts_per_page":5,"order":"DESC","topic_url":"http:\/\/forum.4pforen.4players.de\/viewtopic.php?f=61\u0026t=465302","answer_url":"http:\/\/forum.4pforen.4players.de\/posting.php?mode=reply\u0026f=61\u0026t=465302"},"posts":[{"post_id":"5383691","post_time":"1572942025","post_edit_time":"0","post_visibility":"1","post_subject":"Re: Counter-Strike: Global Offensive: KI-Moderator sperrt 20.000 Spieler aufgrund \u0026quot;giftiger\u0026quot; Chat-Beitr\u00e4ge","post_text":"Was nat\u00fcrlich stimmt ist, dass solche Algorithmen mit Ironie und Sarkasmus Schwierigkeiten haben. Darum w\u00e4re ich ja auch nicht daf\u00fcr, solche Algorithmen einfach komplett autark arbeiten zu lassen.\u003Cbr \/\u003EWas z.B. m\u00f6glich ist und auch schon so gemacht wird, ist Wahrscheinlichkeiten zu berechnen, also sagen wir mal, wir haben 3 Aussagen und die haben eine Wahrscheinlichkeit von 40%, 70% und 99%, dass sie toxische Nachrichten sind. Dann wird dem Mitarbeiter, der solche Meldungen verarbeitet nur diese Meldungen vorgelegt. Und dann derjenige nochmal schauen: \u0022Aha, die Meldung mit 40% ist falsch\u0022, wird also nicht bestraft. Das alleine h\u00e4tte schon einen gigantischen Vorteil, weil die menschlichen Mitarbeiter so massiv entlastet werden. \u003Cbr \/\u003EMfG Ska","bbcode_bitfield":"","bbcode_uid":"12dfb9i","enable_bbcode":"1","enable_smilies":"1","enable_magic_url":"1","post_attachment":"0","username":"Skabus","user_id":"2006203","user_avatar":"https:\/\/login.4players.de\/images\/5a\/02\/avatar2006203.jpg","url":"http:\/\/forum.4pforen.4players.de\/viewtopic.php?f=61\u0026p=5383691#p5383691","quote_url":"http:\/\/forum.4pforen.4players.de\/posting.php?mode=quote\u0026f=61\u0026p=5383691"},{"post_id":"5383686","post_time":"1572941410","post_edit_time":"0","post_visibility":"1","post_subject":"Re: Counter-Strike: Global Offensive: KI-Moderator sperrt 20.000 Spieler aufgrund \u0026quot;giftiger\u0026quot; Chat-Beitr\u00e4ge","post_text":"\u003Cblockquote cite=\u0022http:\/\/forum.4pforen.4players.de\/viewtopic.php?p=5383667#p5383667\u0022\u003E\u003Cdiv\u003E\u003Ccite\u003E\u003Ca href=\u0022http:\/\/forum.4pforen.4players.de\/memberlist.php?mode=viewprofile\u0026amp;u=2280058\u0022\u003ESindri\u003C\/a\u003E hat geschrieben: \u003Ca href=\u0022http:\/\/forum.4pforen.4players.de\/viewtopic.php?p=5383667#p5383667\u0022 data-post-id=\u00225383667\u0022 onclick=\u0022if(document.getElementById(hash.substr(1)))href=hash\u0022\u003E\u2191\u003C\/a\u003E\u003Cspan class=\u0022responsive-hide\u0022\u003E05.11.2019 08:15\u003C\/span\u003E\u003C\/cite\u003E\nIhr wollt mir erz\u00e4hlen, dass das Programm auch ein ironisches \u0022Fuck me, I\u0027m stupid, my bad\u0022, was den gegen\u00fcber beleidigen soll erkennen kann?\n\u003C\/div\u003E\u003C\/blockquote\u003E\nIch wei\u00df nicht, was das Programm im Einzelnen kann. Aber es ist kein simpler Filter, der einfach nur nach Wortgleichheiten sucht. Denn daf\u00fcr braucht man kein \u0022Machine Learning\u0022. Das braucht man, um zus\u00e4tzlich Kontext erkennen zu k\u00f6nnen. Wie gut das Programm darin ist Kontext erkennen zu k\u00f6nnen, wei\u00df ich auch nicht, aber weil es Kontext erkennen soll, ist es mehr als ein simpler Filter. Ob man dieses Programm dann \u003Cem class=\u0022text-italics\u0022\u003EKI\u003C\/em\u003E oder \u003Cem class=\u0022text-italics\u0022\u003EProgramm zur Erkennung \u0022giftiger\u0022 Aussagen\u003C\/em\u003E nennt, spielt letztendlich keine Rolle, ist nur eine Frage des Marketings \u003Cimg class=\u0022smilies\u0022 src=\u0022http:\/\/forum.4pforen.4players.de\/images\/smilies\/icon_smile.gif\u0022 width=\u002215\u0022 height=\u002215\u0022 alt=\u0022:)\u0022 title=\u0022Smile\u0022\u003E\u003Cbr \/\u003EWas simple Filter tun, hat ja Facebook beim Einsatz von Filtern erfahren, als pl\u00f6tzlich alle \u0022Breast-Feeding\u0022-Gruppen und entsprechenden Inhalte gesperrt wurden, weil der Filter nur stur auf die Zeichenfolge \u0022Breast\u0022 reagiert hat. Das will man vermeiden. Deswegen Kontext-Erkennung. Um False Positives wie in Deinem Beispiel zu erkennen und eben NICHT zu melden. Steht ja auch in der Original-Meldung, dass man den Algorithmus zuerst \u0022trainiert\u0022 hat, um besser Kontext zu erkennen.","bbcode_bitfield":"","bbcode_uid":"q1da4o9","enable_bbcode":"1","enable_smilies":"1","enable_magic_url":"1","post_attachment":"0","username":"Kajetan","user_id":"94835","user_avatar":"https:\/\/login.4players.de\/images\/e6\/ca\/avatar94835.jpg","url":"http:\/\/forum.4pforen.4players.de\/viewtopic.php?f=61\u0026p=5383686#p5383686","quote_url":"http:\/\/forum.4pforen.4players.de\/posting.php?mode=quote\u0026f=61\u0026p=5383686"},{"post_id":"5383682","post_time":"1572940762","post_edit_time":"0","post_visibility":"1","post_subject":"Re: Counter-Strike: Global Offensive: KI-Moderator sperrt 20.000 Spieler aufgrund \u0026quot;giftiger\u0026quot; Chat-Beitr\u00e4ge","post_text":"Um das noch etwas auszuf\u00fchren:\u003Cbr \/\u003EEine \u0022echte KI\u0022(eigentlich \u0022strong AI\/starke KI\u0022) w\u00e4re kein Algorithmus, der eine EINZIGE Aufgabe leisten kann, sondern w\u00e4re ein System das den kompletten menschlichen Geist nachahmen w\u00fcrde. Somit also alles simulieren w\u00fcrde, was ein Menschen geistig leistet. Salopp gesagt w\u00e4re es also eine k\u00fcnstliche Version eines menschlichen Geistes und w\u00e4re zu den selben geistigen Leistungen f\u00e4hig wie ein Mensch, wenn nicht sogar noch mehr.\u003Cbr \/\u003E=\u0026gt; \u003Cstrong class=\u0022text-strong\u0022\u003EAber sotwas gibt es (noch) nicht.\u003C\/strong\u003E Es ist auch fraglich ob es soetwas jemals geben wird dar\u00fcber streiten sich die Wissenschaftler noch.\u003Cbr \/\u003EWor\u00fcber wir reden sind sog. \u0022weak Ai\u0022-Algorithmen. Algorithmen die EINE EINZIGE Aufgabe leisten k\u00f6nnen, dabei aber Konzepte verwenden, die den menschlichen Geist IN TEILEN nachahmen. Besonders bekannt und popul\u00e4r sind ja \u0022k\u00fcnstliche neuronale Netze\u0022, diese sind ultra-primitiv im Vergleich zum menschlichen Gehirn. Zum Vergleich: Der Mensch hat ca. 90 Millarden Neuronen im Gehirn und diese sind massiv verbunden. Soetwas k\u00f6nnen wir mit heutiger Technik nicht mal ansatzweise nachahmen. Zwar k\u00f6nnen wir neuronale Netze mit einer \u00e4hnlich gro\u00dfen Anzahl von Neuronen erstellen, aber operabel sind diese meisten nicht. Einfach weil die Rechenleistung fehlt. Darum bewegen sich komplexe \u0022k\u00fcnstliche neuronale Netze\u0022, die man auch praktisch eingesetzt, so zwischen ein paar hundert tausend und ein paar millionen Neuronen. Um so ein neuronales Netz zu trainieren braucht man meistens zu Beginn gro\u00dfe Datenmengen. Das w\u00e4re bei Online-Games kein Problem. Da h\u00e4tte man mehr als genug. Diese Datenmengen m\u00fcsste man, bevor man den Lernalgorithmus anschmei\u00dft, vorbereiten. Diese Datenvorbereitungen(auch Datenaufarbeitung, Data Preperation) ist der wichtigste Schritt, wenn man diesen falsch macht oder die Vorbereitung ung\u00fcnstig f\u00fcr das gegebene Problem ist, dann wird der Algoirthmus scheitern. So eine Vorbereitung kann wie folgt aussehen:\u003Cbr \/\u003E\u0022Fuck me, I\u0027m stupid, my bad\u0022 -\u0026gt; deklariert als \u0022keine Beleidigung\u0022\u003Cbr...","bbcode_bitfield":"","bbcode_uid":"butcrps","enable_bbcode":"1","enable_smilies":"1","enable_magic_url":"1","post_attachment":"0","username":"Skabus","user_id":"2006203","user_avatar":"https:\/\/login.4players.de\/images\/5a\/02\/avatar2006203.jpg","url":"http:\/\/forum.4pforen.4players.de\/viewtopic.php?f=61\u0026p=5383682#p5383682","quote_url":"http:\/\/forum.4pforen.4players.de\/posting.php?mode=quote\u0026f=61\u0026p=5383682"},{"post_id":"5383667","post_time":"1572938101","post_edit_time":"0","post_visibility":"1","post_subject":"Re: Counter-Strike: Global Offensive: KI-Moderator sperrt 20.000 Spieler aufgrund \u0026quot;giftiger\u0026quot; Chat-Beitr\u00e4ge","post_text":"Ihr wollt mir erz\u00e4hlen, dass das Programm auch ein ironisches \u0022Fuck me, I\u0027m stupid, my bad\u0022, was den gegen\u00fcber beleidigen soll erkennen kann?","bbcode_bitfield":"","bbcode_uid":"3hxcy","enable_bbcode":"1","enable_smilies":"1","enable_magic_url":"1","post_attachment":"0","username":"Sindri","user_id":"2280058","user_avatar":"https:\/\/login.4players.de\/images\/94\/b9\/avatar2280058.jpg","url":"http:\/\/forum.4pforen.4players.de\/viewtopic.php?f=61\u0026p=5383667#p5383667","quote_url":"http:\/\/forum.4pforen.4players.de\/posting.php?mode=quote\u0026f=61\u0026p=5383667"},{"post_id":"5383655","post_time":"1572936111","post_edit_time":"0","post_visibility":"1","post_subject":"Re: Counter-Strike: Global Offensive: KI-Moderator sperrt 20.000 Spieler aufgrund \u0026quot;giftiger\u0026quot; Chat-Beitr\u00e4ge","post_text":"\u003Cblockquote cite=\u0022http:\/\/forum.4pforen.4players.de\/viewtopic.php?p=5383359#p5383359\u0022\u003E\u003Cdiv\u003E\u003Ccite\u003E\u003Ca href=\u0022http:\/\/forum.4pforen.4players.de\/memberlist.php?mode=viewprofile\u0026amp;u=2280058\u0022\u003ESindri\u003C\/a\u003E hat geschrieben: \u003Ca href=\u0022http:\/\/forum.4pforen.4players.de\/viewtopic.php?p=5383359#p5383359\u0022 data-post-id=\u00225383359\u0022 onclick=\u0022if(document.getElementById(hash.substr(1)))href=hash\u0022\u003E\u2191\u003C\/a\u003E\u003Cspan class=\u0022responsive-hide\u0022\u003E04.11.2019 17:08\u003C\/span\u003E\u003C\/cite\u003E\n...\n\u003C\/div\u003E\u003C\/blockquote\u003E\nDu redest die ganze Zeit von simplen Filtern. Nicht von Programmen, die in der Lage sind Kontext zu erkennen, was ja das Ziel in diesem Falle ist. Offensichtliche Beleidigungen von solchen Beispielen trennen zu k\u00f6nnen, wie Du sie angef\u00fchrst. Skabus hat schon recht ... entweder weisst Du tats\u00e4chlich nicht, wovon Du hier sprichst oder Du trollst \u0026amp; provozierst ganz bewusst.","bbcode_bitfield":"","bbcode_uid":"nvkksi","enable_bbcode":"1","enable_smilies":"1","enable_magic_url":"1","post_attachment":"0","username":"Kajetan","user_id":"94835","user_avatar":"https:\/\/login.4players.de\/images\/e6\/ca\/avatar94835.jpg","url":"http:\/\/forum.4pforen.4players.de\/viewtopic.php?f=61\u0026p=5383655#p5383655","quote_url":"http:\/\/forum.4pforen.4players.de\/posting.php?mode=quote\u0026f=61\u0026p=5383655"}]}