AI News, #BizByTheNumbers hashtag on Twitter artificial intelligence

Google’s Artificial Intelligence Hate Speech Detector Has a ‘Black Tweet’ Problem

As large social media companies face the rising challenge of moderating the billions of words posted on their platforms every day and blocking hate speech as well as other types of harmful content before it sees the light of day, they are hoping this huge workload can someday be taken on by robots.

Perspec­tive defines “toxic” as “a rude, disrespectful, or unreason­able comment that is likely to make you leave a discussion.” The neural network used to flag such content was trained using a large set of text-based data rated by people on a scale from “very healthy” to “very toxic.” Based on that information, the algorithm then evaluates new content by assigning it a likelihood of being toxic.

“This unearths all sorts of challenges relating to social dynamics between people of different identities and makes the problem of deciding whether something is offensive much more complex and subjective than deciding whether an image contains a human face or not.” One potential solution to the racial bias issue found in his study, Sap said, is to introduce a “balancing” algorithm that helps a machine learning model to recognize certain English dialects or identify the race of the speaker.

Tay (Bot)

Tay war ein von Microsoft entwickelter Chatbot mit künstlicher Intelligenz, welcher am 23.

Er verursachte nachfolgend eine öffentliche Kontroverse, als der Bot damit begann, anzügliche und beleidigende Tweets zu verfassen, was Microsoft zwang, den Dienst nur 16 Stunden nach seinem Start wieder abzuschalten.

Alle Geschlechter sind gleichwertig und sollten fair behandelt werden.“) beantwortet, was eine kurze Debatte um die Meinungsfreiheit von Bots und eine Kampagne unter dem Hashtag #JusticeForTay auslöste.

Unsere einzige Hoffnung jetzt ist Donald Trump“ oder auch „Ich hasse alle Feministen, sie sollen in der Hölle schmoren.“ führten zu einer massenhaften Berichterstattung in den Medien und einem Public-Relations-Desaster für Microsoft.[2]

März 2016 ging eine zweite Version von Tay online, welche allerdings auch mit Problemen zu kämpfen hatte und noch schneller als die erste Version abgeschaltet wurde.[3]