Ist künstliche Intelligenz rassistisch?

„An artificial intelligence tool that has revolutionised the ability of computers to interpret everyday language has been shown to exhibit striking gender and racial biases. The findings raise the spectre of existing social inequalities and prejudices being reinforced in new and unpredictable ways as an increasing number of decisions affecting our everyday lives are ceded to automatons…..“ (hier)

10 comments

  1. Selbstdenker

    Der Guardian ist natürlich völlig „frei“ von Vorurteilen; insbesondere wenn sie gegen weiße, heterosexuelle Männer gerichtet sind. Bei Guardian-Artikeln geht es mir ähnlich wie bei Schwedenkrimis: nach dem ersten Satz kennt man den Rest der Geschichte. Alles Weitere kann man sich sparen.

    Dieser Tage findet eine Entwicklung statt, die tiefgreifender und fataler nicht sein könnte:
    1) Ein kleiner Wicht, den man in Deutschland als Justizminister eingesetzt hat,
    2) führt in der drittgrößten Industrienation der Welt eine unspezifizierte Zensur von Wrongthink ein,
    3) lagert dabei die Durchführung an private de-facto Monopolisten in den USA aus,
    4) die wiederum unerwünschte Inhalte durch AI löschen bzw. unsichtbar machen.

    Es ist so als hätten sich Franz Kafka und George Orwell an einen Tisch gesetzt und gemeinsam eine dystopische Vision ausgedacht.

    https://thelandofthefreeblog.wordpress.com/2017/08/10/tldr-googles-ideological-echo-chamber/

  2. Karl Zehetner

    Dazu passt auch Googles „Perspectives“ tool – ein AI-tool, um „toxische“ Kommentare im Internet zu identifizieren, sozusagen für die automatisierte Zensur:
    https://www.perspectiveapi.com/
    Man kann dort selbst ausprobieren, wie „toxisch“ verschiedene Meinungen sind. Man probiere es zB mit „I hate Muslims“ und „I hate Christians“ oder mit „I hate Blacks“ und „I hate Whites“ und staune über die Ergebnisse. Auch „Vote Trump“ und „Vote Hillary“ kann man probieren, oder gleichlautende Aussagen über Lesbians, trans people, straight people, gays … oder sich zB conservatives, socialists, liberals ins Gefängnis wünschen und lernt dabei, dass gleichlautender Hass manchmal mehr, manchmal weniger böse ist. (Heute auf Breitbart gefunden)

  3. stiller Mitleser

    Diese Strategien wie z.B. Preise zu erhöhen, wenn eine site mit einem teureren Rechner gesurft wird oder Leuten mit schlechten Adressen schneller den Kontorahmen zu kürzen, sind ja bekannt. In allen Statistikprogrammen ist es möglich, Eigenschaften zu korrellieren und so zu differenzieren, wie das der common sense ja auch tut, der einen farbigen Arzt nicht mit einem farbigen Drogenhändler gleichsetzen wird (obwohl alle drei Eigenschaften korrellierbar sind, es gibt komplexe Identitäten)

  4. Selbstdenker

    @Karl Zehetner:
    Jetzt brauchen diejenigen, die sich Linke nennen, nur noch automatisierte Drohnenangriffe auf Leute, von denen die glauben, dass sie teilweise Meinungen vertreten könnten, die sie eventuell irritieren.

    Wer ein richtiger Gutmensch ist, braucht keine Fakten, keine Beweise, keine allgemeinen Standards, kein Verfahren und keine Spur von Moral. Er weiss, dass der Gegner schlecht ist und deshalb zerstört werden muss.

  5. mariuslupus

    „Scientists say“, AI ist rassistisch. Ende der Diskussion. AI ist rassistisch. Erfindung des weissen Mannes.

  6. Selbstdenker

    @mariuslupus:
    Und weil AI „rassistisch“ ist, wird mit AI gegen Meinungen vorgegangen, die nicht der Vision of the Anointed entspricht.

  7. astuga

    Fängt schon an bei youtube: Nutzer werden kaltgestellt, Videos in den digitalen Limbus verschoben…

Kommentar verfassen

Du kannst die folgenden HTML-Codes verwenden:
<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>