Google Photos ne confond plus les personnes noires avec des gorilles, mais…

En 2015, Google Photos avait confondu une personne noire avec un gorille. Suite à cet incident scandaleux, la firme avait promis de remédier au problème aussi rapidement que possible. Effectivement, depuis lors, Google Photos ne confond plus les personnes noires avec des singes. Cependant, le site Wired vient de découvrir que Google a tout simplement restreint son algorithme pour l’empêcher d’identifier les gorilles. Une drôle de manière de remédier au problème…

google photos gorille

L’histoire débute en juin 2015. C’est à cette époque que l’ingénieur logiciel Jacky Alciné publie sur Twitter une capture d’écran sur laquelle on constate que les algorithmes de Google Photos confondent les personnes noires avec des gorilles. Gênant, pour une application comme Google Photos téléchargée plus d’un milliard de fois. Face à cette confusion pouvant facilement s’apparenter à du racisme, l’entreprise avait alors promis de remédier au problème, évoquant une « erreur ». Trois ans après l’incident, Google a enfin réparé son algorithme. Ou presque…

Google Photos n’est plus capable d’identifier les gorilles pour éviter toute confusion raciste

Comme le révèle le site Wired, pour éviter que Google Photos confonde les personnes noires avec des gorilles, la firme de Mountain View a tout bonnement supprimé les gorilles de son algorithme de reconnaissance d’image. De fait, on peut en déduire que Google a préféré restreindre son service plutôt que de remédier au problème en profondeur en apprenant à son intelligence artificielle à différencier les singes des êtres humains.

Pour vérifier son constat, Wired a effectué des tests sur des dizaines de milliers de photos de singes. Les babouins, gibbons et autres ouistitis sont identifiés correctement. En revanche, les gorilles et les chimpanzés ne sont plus reconnus. De plus, il est désormais impossible de rechercher des mots-clés comme « homme noir » ou « femme noire ». Google a confirmé que les catégories d’images correspondant aux singes sont bloquées depuis l’incident survenu en 2015. Selon un porte-parole de la firme, la technologie de reconnaissance d’image n’est pas encore parfaite et Google n’a pas trouvé de meilleure alternative.

Via
Réagissez à cet article !
  • Scandaleux, racisme, les gens sont cinglés…
    C’est un algorithme, pas des personnes derrière.
    Faut bien que l’ia apprenne. Elle est bête et méchante. Ya des yeux, une bouche un gros nez et de couleur. Normal de confondre pour un algo débutant. Moi j’aurais trouvé ça rigolo d’être confondu avec un singe ou un cheval..

    • Wendigo

      Peut-être parce que tu n’as jamais été insulté de singe ? Je pense qu’on peut comprendre que certaines personnes se sont senties insultées à cause de ce qu’ils ont vécu auparavant.

      Ensuite les algorithmes, ça se corrige, ça se guide. Il reste beaucoup de travail aux équipes de la firme pour les peaufiner.

      • Jacksong

         » Peut-être parce que tu n’as jamais été insulté de singe ?  »
        => C’est même sûr à 100%

      • Marcos Fernandez

        C’est plus compliqué que ça à corriger un algorithme de IA. Si après trois ans cette solution a été trouvée c’est qu’ils n’ont rien trouvé de mieux pour l’instant. En ce qui concerne la détection d’objet l’IA de Google atteint à peine un taux de 50% de détection. Les erreurs sont donc courantes quand tu essaies de faire des recherches sur Google Photos.

      • Ca n’empêche pas, c’est comme si je me sentais insulté par un chien parce qu’il m’aboie quand je passe devant lui. Ca peut toucher bien sur, mais ca n’a aucun sens de s’en prendre a lui.

    • gu!ll

      On vit dans un monde de faibles.

  • Insomnia

    Faire autant de bruit parce que Google a simplement diminué son algorithme ??? pour faire du buzz oui…..
    Ils ont fait la chose la plus simple et la plus rapide, en attendant une réelle solution.

  • aRmata

    je vois pas le rapport entre un gorille et un noir. il est vraiment con l algorithme de google. ils sont pas censé travailler avec les meilleurs developpeur mondiaux? faut vraiment se mettre a bosser la les mecs. suffit la branlette maintenant.

    non mais franchement… un gorille et un noir… technologie de 1999 le truc c est pas possible faut se mettre a jour.

    ou alors ils l ont fait expres… de toute façon tout ce qui est américain c est de la merde

    • Grabo20

      C’est foncé, un gros nez, un visage, bref, c’est des caractéristiques communes et il est pas si con que ça. Ça n’a rien à voir avec du racisme, un blanc est blanc et un noir est noir, si demain on me dit que je suis blanc comme les murs de la maison je vais pas le nier.

      • aRmata

        je peux aussi te répondre que ça a un visage beaucoup plus large avec une symetrie qui n a rien a voir avec l homme, un espece de masque caoutchouteux sur la face avant et rempli de poil de la tete au pied. je vois ce que tu veux dire et je ne dis pas que tu as tort. ce que je veux dire c est que je soupconne (peut etre a tort) google de l avoir un peu fais expres…

        sincerement je veux pas casser les burnes a tout le monde ici mais bordel regarder un gorille dans google image et un homme (blanc ou noir) ça na aucun rapport

        peut etre que je me suis laisser emporter mais franchement mon avis c est que pour le coup là google niveau informatique = 0

        • Yoooo

          l’ia ce base sur des points et des textures pour reconnaître les formes, et les compare avec des templates, avec x% de correspondance, l’algo indique ce que c’est, voilà comment ca fonctionne

        • crachoveride

          Alors imagine le niveau des concurrents dans ce domaine ^^ on est à – je ne sait pas combien.

    • crachoveride

      En attendant ils sont les seuls à proposer un algo aussi efficace, les autres rament encore plus, c’est énormément de boulot. Il y a effectivement beaucoup d’amélioration à faire mais c’est le plus efficace à l’heure actuelle.

    • Littletroll Monster

      Je te rejoins complètement sur cette hypothèse… Google des wasp, white anglo saxon protestant… des racistes! En revanche aux us il n’a pas que des bœufs, Obama est l’exemple qu’un peuple peut élire un noir…

      • rforce

        Nuance quand même : le terme WASP n’est pas raciste à l’origine. C’est un terme sociologique qui décrit le peuplement des USA au moment de la colonisation. D’autre part, beaucoup des gens racistes aux USA s’identifient aux WASP sans en faire vraiment partie.

        • Littletroll Monster

          Oui merci d’avoir mieux précisé.

  • Serge Bollargeau

    a la poste ils les emploient a la securité pour < remettre a leur place les petits blancs qui viennent se plaindre des fonctionnaires

  • lolololol

    Pourtant elle ressemble bien à un gorille.

    • lemaitre

      Vous êtes vraiment de gros cons. c’est quoi ce discours de merde?

      • rforce

        C’est le discours low-cost de la clientèle Android.

        • lemaitre

          C’est affligeant. Pourquoi autant de mépris et ce complexe de supériorité envers les noirs? on parle d’anti sémitisme et c’est très bien de le condamner, mais quand il s’agit de comportement raciste envers les noirs tout le monde s’en fout. L’humanité a tellement été immonde et abominable envers les noirs? Au bout d’un moment ça suffit quoi
          Je ne suis pas noir mais j’ éssaie de me mettre à leur place.

          • rforce

            Regarde sur le Web à quoi ressemblait Heinrich Himmler, le chef des SS. Tu verras qu’il n’etait pas le grand blond qu’il rêvait d’etre.
            Sans doute que ces types n’aiment pas voir des jolies blondes préférer des corps noirs athlétiques aux corps de lâches de certains ambassadeurs de la soi-disante race des seigneurs.

          • lemaitre

            Mdrrr tu m’as tué 😂

    • vercety974

      Allez lololol, porte tes couilles et mets ton vrai nom pour assumer.

    • rforce

      On t’a repéré Michel Leeb.

    • GOT

      Et hop, les anti-racistes foncent tête baissée dans un bon gros troll…

      Vous n’aviez même pas envisagé que ce troll parle de la photo en tête d’article ? Car c’est bien un gorille…

  • rforce

    J’attends avec impatience la voiture sans chauffeur de Google.

  • Serge Bollargeau

    je te mettrais tout ca sur le bateau
    on est inhumain on les arrache a leur foret on les parque dans des banlieues au 10 eme etage et apres on est furieux quand ils caillasssent les CRS dur dur le 93

    • rforce

      L’algorithme de Google doit te confondre avec un con.

  • Dio

    Google photo mêlait congoïde et macaque ? :rire:

  • DePassage

    Ben moi je confonds toujours Zira et Danielle Mitterand…

  • Littletroll Monster

    Du foutage de gueule Google, un primate n’a rien à voir avec un humain!!! Ni même avec un néandertalien… plus de 15 millions d’années que nous avons évolué !!! Les algorithmes Google sont à la ramasse et vu leur puissance financière je me doute fort que cette provocation ait été faite par ces p….. de wasp racistes!!!

    • Yoooo

      Quand on y connait rien en deep learning, et en reconnaissance de forme on ferme sa gueule :)

      • Littletroll Monster

        Ferme ta gueule ducon, je sais de quoi je parle justement, va prendre ton cachet et fais dodo sous merde de raciste

  • Krayia

    Les ia existent depuis peu, on essaye de les rendre plus intelligent de les développer sur téléphone depuis peu donc stop de gueuler pour rien, l’argent ne fait pas tout comme j’ai pu le lire dans les commentaires, disons que Google nous vends un produit pas fini et que malheureusement le logiciel nous a rappelé une période sombre de notre histoire et puis l’homme descends bien du singe et pis c’est tout 😂

    • Jacksong

      « Les ia existent depuis peu »
      => Euh non

  • Ndongo MBODJ

    Mais google photo fait bcp deffort aussi pour ne pas confondre les cochons roses et les Hommes blancs

    • rforce

      Quelques soient les efforts de Google , Marine Le Pen avec son double menton et ses bourrelets ressemblera toujours à une truie.

  • rforce

    Peut-être que tes connaissances en histoire sont trop limitées pour comprendre les gens.

    Tu as des potes blacks ? Moi aussi, et j’en connais pas un seul qui ne voudrait pas te defoncer la gueule à grands coups de pied pour faire croire que les cris de singe dans les stades de foot (condamnées par toutes les justices) sont des manifestations de sympathie.

    • GOT

      Je doute que ces pseudo anti-racistes aient de meilleures connaissances en Histoire que moi. Pas que je sois spécialisé dans le domaine mais c’est plutôt que ce n’est pas vraiment leur style…

      Ah ben ils sont sympas tes potes…
      Mais bon, c’est facile via internet, en face il n’y aurait plus personne je présume…
      Grande gue’ul’e mais petite b…

      Où ais je parlé des cris de singe dans les stades ? Nulle part. Et ça n’a rien à voir avec l’IA de Google ou la pub de H&M

      • rforce

        Si tu as un ami noir, alors il a le même QI et la même moralité que toi. Tout s’explique.

        En tous cas, tu connais rien à la culture des pays anglophone. Car le mot monkey associé aux jeunes enfants (noirs ou blancs) n’est pas péjoratif, c’est comme dire poussin en français.
        Cependant, parfois l’ambiguïté peut exister. Tu aurais du d’ailleurs te renseigner sur cette pub de H&M.

        «H&M; has apologized for an online advertisement that featured a black boy modeling a sweatshirt reading “Coolest monkey in the jungle.”»

        • GOT

          Ben voilà, un argument ad personam maintenant. Vu qu’on a pas la même opinion, je suis idiot et mes amis le sont aussi…
          Super argumentaire, tu prouves bien ta supériorité intellectuelle, je m’incline.

          Je sais très bien que H&M a retiré la pub. Et c’est logique après le scandale que ça a fait.
          Je me demande qui est à l’origine de cette pub… Je ne pense pas que ce soit un blanc raciste. À vrai dire, ça ne m’étonnerait même pas que ça soit un noir qui pensait que ça serait mignon de prendre un enfant noir comme modèle pour ce pull

          • rforce

            Ben voyons…
            Et Hitler était Noir , non ?

          • GOT

            En 3 messages: un argument ad personam et un point Godwin

            T’es un winner toi dis donc.

            Si tu trouves d’autres arguments que « t’es con » et « Hitler », fais moi signe champion

          • rforce

            C’est vrai que parler à quelqu’un qui défend (anonymement) la forme la plus violente et manifeste du racisme ne mérite pas de faire cette comparaison. Va donc avec ton ami Noir dans un stade de foot exposer ton « point de vue » sympathique avec une banderole , et on va voir comment tu seras reçu.

          • GOT

            Où ais-je défendu le racisme?

            Tu ne vois pas où est la différence entre la haine dans ces stades et le sweatshirt ou l’IA de Google ?
            Allez, je t’aide un peu: tout est dans l’intention.
            Dans les stades l’intention est d’humilier un joueur ou de le déstabiliser.

            Tournons ça autrement: des supporters noirs qui crient « albinos » à des joueurs blancs, c’est raciste n’est ce pas ?
            Par contre, si l’IA de Google se trompe entre un albinos et un blanc, est-ce que c’est raciste ?

          • rforce

            Tout le monde sait que dans l’histoire la culture raciste reposait sur ces comparaisons que tu défends ici. Il n’y a rien de nouveau. C’est la raison pourquoi H&M’s a retiré sa pub et fait des excuses, parce que c’est illégal comme les cris de singe dans les stades.

            Le débat donc s’arrête là ; les termes cons et nazis te vont très bien.

          • GOT

            Je ne défend pas la comparaison, je ne fais que dire qu’il n’y a aucun racisme dans l’IA de Google, l’intention étant évidemment différente que dans les stades.

            Tu crois vraiment que le président d’H&M a fait retirer la pub parce que c’est soit disant raciste ? Ou tu penses qu’il a voulu faire taire une polémique qui nuit à l’image de la marque ?

            Je t’invite à aller voir ce qu’est le nazisme, car clairement, tu utilises des mots que tu ne comprends pas.
            Quant à mettre fin au débat en déclarant que je suis con… C’est plutôt toi qui passe pout un con…

          • rforce

            Moi je t’invite à exposer ton opinion sur une banderole ,dans un stade de foot. Tu vas t’en prendre plein la gueule 😂.Puis tu vas te retrouver devant un tribunal pour incitation à la haine raciale.

Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos dernières applications !
Android Messages sur PC : découvrez son interface

Android Messages sur PC est bien confirmé par Google, et un premier visuel de l’interface est disponible. Celui-ci n’est pas d’une qualité extraordinaire et ne permet pas de voir toutes les fonctionnalités mais offre tout de même une bonne idée…

Google va lancer Chat, le iMessage pour Android

Google va lancer une nouvelle fonctionnalité « Chat », qui sera un genre de iMessage pour Android. Basée sur le RCS (Rich Communication System), elle vise à remplacer les autres solutions existantes comme Google Allo. Le développement de ce dernier service est…