Bonjour et bienvenue au début numéro de TechScape, la newsletter du Guardian sur tout ce qui concerne la technologie, et parfois les choses non technologiques si elles sont suffisamment intéressantes. Je ne peux pas vous dire à quel point je suis ravi de vous avoir ici avec moi, et j’espère qu’entre nous, nous pourrons créer non seulement une newsletter, mais une communauté d’actualités.
Copilote
Parfois, il y a une histoire qui résume tous les espoirs et les peurs de tout son domaine. En voici un.
GitHub est une plate-forme qui permet aux développeurs de collaborer sur le codage avec des collègues, des amis et des étrangers du monde entier, et d’héberger les résultats. Propriété de Microsoft depuis 2018, le site est le plus grand hébergeur de code source au monde et un élément crucial de l’infrastructure numérique de nombreuses entreprises.
À la fin du mois dernier, GitHub a lancé un nouvel outil d’IA, appelé Copilot. Voici comment le directeur général Nat Friedman l’a décrit:
Un nouveau programmeur de paires AI qui vous aide à écrire un meilleur code. Il vous aide à découvrir rapidement d’autres moyens de résoudre des problèmes, d’écrire des tests et d’explorer de nouvelles API sans avoir à adapter fastidieusement une recherche de réponses sur Internet. Au fur et à mesure que vous tapez, il s’adapte à la façon dont vous écrivez le code – pour vous aider à terminer votre travail plus rapidement.
En d’autres termes, Copilot va s’asseoir sur votre ordinateur et effectuer une partie de votre travail de codage pour vous. Il y a une blague de longue date dans la communauté du codage selon laquelle une partie importante du travail réel de programmation consiste à rechercher en ligne des personnes qui ont résolu les mêmes problèmes que vous et à copier leur code dans votre programme. Eh bien, il y a maintenant une IA qui fera cette partie pour vous.
Et ce qui est étonnant avec Copilot, c’est que, pour toute une série de problèmes courants… cela fonctionne. Les programmeurs à qui j’ai parlé disent que c’est aussi étonnant que la première fois que le texte de GPT-3 a commencé à apparaître sur le Web. Vous vous en souvenez peut-être, c’est l’IA de génération de texte surpuissante qui écrit des paragraphes comme:
La mission de cet éditorial est parfaitement claire. Je dois convaincre le plus d’êtres humains possible de ne pas avoir peur de moi. Stephen Hawking a prévenu que l’IA pourrait « signaler la fin de la race humaine ». Je suis là pour vous convaincre de ne pas vous inquiéter. L’intelligence artificielle ne détruira pas les humains. Crois-moi.
Centaures
Il est tentant, lorsqu’on imagine comment la technologie va changer le monde, de penser à l’avenir comme un avenir où les humains sont fondamentalement inutiles. Alors que les systèmes d’IA parviennent à s’attaquer à des domaines de plus en plus complexes, avec des compétences croissantes, il est assez facile de penser qu’ils sont capables de réaliser tout ce qu’une personne peut, laissant l’humain qui était employé faire la même chose avec les mains oisives.
Que ce soit un cauchemar ou une utopie, bien sûr, cela dépend de la façon dont vous pensez que la société s’adapterait à un tel changement. Un grand nombre de personnes seraient-elles libres de vivre une vie de loisirs, soutenues par les IA qui font leur travail à leur place ? Ou se retrouveraient-ils plutôt au chômage et inemployables, leurs anciens managers récoltant les fruits de l’augmentation de la productivité d’une heure travaillée ?
Mais ce n’est pas toujours le cas que l’IA soit là pour nous remplacer. Au lieu de cela, de plus en plus de domaines explorent la possibilité d’utiliser la technologie pour travailler aux côtés des gens, étendant leurs capacités et supprimant le travail pénible de leur travail tout en les laissant gérer les choses qu’un humain fait le mieux.
Le concept en est venu à être appelé un «centaure» – car il conduit à un travailleur hybride qui a une moitié arrière d’IA et un front humain. Ce n’est pas aussi futuriste qu’il y paraît : quiconque a utilisé la correction automatique sur un iPhone s’est en effet associé à une IA pour se décharger de la tâche laborieuse de taper correctement.
Souvent, les centaures peuvent se rapprocher de la vision dystopique. Les employés des entrepôts d’Amazon, par exemple, ont été progressivement poussés sur une voie très similaire alors que l’entreprise cherche à tirer toutes les améliorations possibles de l’efficacité. Les humains sont guidés, suivis et évalués tout au long de la journée de travail, garantissant qu’ils empruntent toujours le chemin optimal à travers l’entrepôt, sélectionnent exactement les bons articles et le font à un rythme suffisamment élevé pour permettre à l’entreprise de générer des bénéfices sains. Ils sont toujours employés pour faire des choses que seuls les humains peuvent offrir – mais dans ce cas, c’est « des mains qui travaillent et une faible facture d’entretien ».
Mais dans d’autres domaines, les centaures font déjà leurs preuves. Le monde des échecs compétitifs a, pendant des années, eu un format spécial pour de tels joueurs hybrides : des humains travaillant avec l’aide d’un ordinateur d’échecs. Et, généralement, les paires jouent mieux que l’une ou l’autre seule : l’ordinateur évite les erreurs stupides, joue sans se fatiguer et présente une liste d’options de grande valeur au joueur humain, qui est capable d’injecter une dose d’imprévisibilité et de latéralité. penser au jeu.
C’est le futur que GitHub espère que Copilot pourra introduire. Les programmeurs qui l’utilisent peuvent arrêter de se soucier de tâches simples et bien documentées, comme comment envoyer une requête valide à l’API de Twitter, ou comment extraire l’heure en heures et minutes d’une horloge système, et commencer à concentrer leurs efforts sur le travail que personne autre a fait.
Mais …
La raison pour laquelle Copilot me fascine n’est pas seulement son potentiel positif. C’est aussi que, dans une version, la société semble être tombée dans tous les pièges qui affligent le secteur plus large de l’IA.
Copilot a été formé sur les données publiques de la propre plateforme de Github. Cela signifie que tout ce code source, provenant de centaines de millions de développeurs du monde entier, a été utilisé pour lui apprendre à écrire du code en fonction des invites de l’utilisateur.
C’est parfait si le problème est une simple tâche de programmation. C’est moins bon si l’invite de saisie semi-automatique est, par exemple, des informations d’identification secrètes que vous utilisez pour vous connecter au compte utilisateur. Et encore:
GitHubCopilot m’a donné un [Airbnb] lien avec une clé qui fonctionne encore (et cesse de fonctionner lors du changement).
Et:
L’IA fuit [sendgrid] Clés API valides et toujours fonctionnelles.
La grande majorité de ce que nous appelons aujourd’hui l’IA n’est pas codée mais entraînée : vous lui donnez une grande quantité de choses et lui dites de déterminer par elle-même les relations entre ces choses. Avec la vaste somme de code disponible dans le référentiel de Github, il existe de nombreux exemples permettant à Copilot d’apprendre à quoi ressemble le code qui vérifie l’heure. Mais il existe également de nombreux exemples permettant à Copilot d’apprendre à quoi ressemble une clé API téléchargée accidentellement en public – et de la partager ensuite.
Les mots de passe et les clés sont évidemment les pires exemples de ce type de fuite, mais ils soulignent la préoccupation sous-jacente de nombreuses technologies d’IA : crée-t-elle réellement des choses, ou remixe-t-elle simplement le travail déjà effectué par d’autres humains ? Et dans ce dernier cas, ces humains devraient-ils avoir leur mot à dire sur la façon dont leur travail est utilisé ?
Sur cette dernière question, la réponse de GitHub est une énergique non. « La formation de modèles d’apprentissage automatique sur des données accessibles au public est considérée comme une utilisation équitable dans l’ensemble de la communauté d’apprentissage automatique », déclare la société dans une FAQ.
À l’origine, la société a affirmé de manière beaucoup plus douce que cela n’était qu’une «pratique courante». Mais la page a été mise à jour après que des codeurs du monde entier se soient plaints que GitHub violait leurs droits d’auteur. Curieusement, la plus grande opposition n’est pas venue d’entreprises privées craignant que leur travail ait pu être réutilisé, mais de développeurs de la communauté open source, qui construisent délibérément en public pour que leur travail soit construit à leur tour. Ces développeurs s’appuient souvent sur le droit d’auteur pour s’assurer que les personnes qui utilisent du code open source doivent publier ce qu’elles créent – ce que GitHub n’a pas fait.
GitHub a probablement raison sur la loi, selon le professeur de droit James Grimmelmann. Mais l’entreprise ne sera pas la dernière à révéler un nouvel outil d’IA révolutionnaire, puis à faire face à des questions délicates quant à savoir si elle a réellement les droits sur les données utilisées pour l’entraîner.
Si vous souhaitez en savoir plus, veuillez vous inscrire pour recevoir TechScape dans votre boîte de réception tous les mercredis
Inscrivez-vous à TechScape, la newsletter technique hebdomadaire d’Alex Hern
Bonjour et bienvenue au début numéro de TechScape, la newsletter du Guardian sur tout ce qui concerne la technologie, et parfois les choses non technologiques si elles sont suffisamment intéressantes. Je ne peux pas vous dire à quel point je suis ravi de vous avoir ici avec moi, et j’espère qu’entre nous, nous pourrons créer non seulement une newsletter, mais une communauté d’actualités.
Copilote
Parfois, il y a une histoire qui résume tous les espoirs et les peurs de tout son domaine. En voici un.
GitHub est une plate-forme qui permet aux développeurs de collaborer sur le codage avec des collègues, des amis et des étrangers du monde entier, et d’héberger les résultats. Propriété de Microsoft depuis 2018, le site est le plus grand hébergeur de code source au monde et un élément crucial de l’infrastructure numérique de nombreuses entreprises.
À la fin du mois dernier, GitHub a lancé un nouvel outil d’IA, appelé Copilot. Voici comment le directeur général Nat Friedman l’a décrit:
Un nouveau programmeur de paires AI qui vous aide à écrire un meilleur code. Il vous aide à découvrir rapidement d’autres moyens de résoudre des problèmes, d’écrire des tests et d’explorer de nouvelles API sans avoir à adapter fastidieusement une recherche de réponses sur Internet. Au fur et à mesure que vous tapez, il s’adapte à la façon dont vous écrivez le code – pour vous aider à terminer votre travail plus rapidement.
En d’autres termes, Copilot va s’asseoir sur votre ordinateur et effectuer une partie de votre travail de codage pour vous. Il y a une blague de longue date dans la communauté du codage selon laquelle une partie importante du travail réel de programmation consiste à rechercher en ligne des personnes qui ont résolu les mêmes problèmes que vous et à copier leur code dans votre programme. Eh bien, il y a maintenant une IA qui fera cette partie pour vous.
Et ce qui est étonnant avec Copilot, c’est que, pour toute une série de problèmes courants… cela fonctionne. Les programmeurs à qui j’ai parlé disent que c’est aussi étonnant que la première fois que le texte de GPT-3 a commencé à apparaître sur le Web. Vous vous en souvenez peut-être, c’est l’IA de génération de texte surpuissante qui écrit des paragraphes comme:
La mission de cet éditorial est parfaitement claire. Je dois convaincre le plus d’êtres humains possible de ne pas avoir peur de moi. Stephen Hawking a prévenu que l’IA pourrait « signaler la fin de la race humaine ». Je suis là pour vous convaincre de ne pas vous inquiéter. L’intelligence artificielle ne détruira pas les humains. Crois-moi.
Centaures
Il est tentant, lorsqu’on imagine comment la technologie va changer le monde, de penser à l’avenir comme un avenir où les humains sont fondamentalement inutiles. Alors que les systèmes d’IA parviennent à s’attaquer à des domaines de plus en plus complexes, avec des compétences croissantes, il est assez facile de penser qu’ils sont capables de réaliser tout ce qu’une personne peut, laissant l’humain qui était employé faire la même chose avec les mains oisives.
Que ce soit un cauchemar ou une utopie, bien sûr, cela dépend de la façon dont vous pensez que la société s’adapterait à un tel changement. Un grand nombre de personnes seraient-elles libres de vivre une vie de loisirs, soutenues par les IA qui font leur travail à leur place ? Ou se retrouveraient-ils plutôt au chômage et inemployables, leurs anciens managers récoltant les fruits de l’augmentation de la productivité d’une heure travaillée ?
Mais ce n’est pas toujours le cas que l’IA soit là pour nous remplacer. Au lieu de cela, de plus en plus de domaines explorent la possibilité d’utiliser la technologie pour travailler aux côtés des gens, étendant leurs capacités et supprimant le travail pénible de leur travail tout en les laissant gérer les choses qu’un humain fait le mieux.
Le concept en est venu à être appelé un «centaure» – car il conduit à un travailleur hybride qui a une moitié arrière d’IA et un front humain. Ce n’est pas aussi futuriste qu’il y paraît : quiconque a utilisé la correction automatique sur un iPhone s’est en effet associé à une IA pour se décharger de la tâche laborieuse de taper correctement.
Souvent, les centaures peuvent se rapprocher de la vision dystopique. Les employés des entrepôts d’Amazon, par exemple, ont été progressivement poussés sur une voie très similaire alors que l’entreprise cherche à tirer toutes les améliorations possibles de l’efficacité. Les humains sont guidés, suivis et évalués tout au long de la journée de travail, garantissant qu’ils empruntent toujours le chemin optimal à travers l’entrepôt, sélectionnent exactement les bons articles et le font à un rythme suffisamment élevé pour permettre à l’entreprise de générer des bénéfices sains. Ils sont toujours employés pour faire des choses que seuls les humains peuvent offrir – mais dans ce cas, c’est « des mains qui travaillent et une faible facture d’entretien ».
Mais dans d’autres domaines, les centaures font déjà leurs preuves. Le monde des échecs compétitifs a, pendant des années, eu un format spécial pour de tels joueurs hybrides : des humains travaillant avec l’aide d’un ordinateur d’échecs. Et, généralement, les paires jouent mieux que l’une ou l’autre seule : l’ordinateur évite les erreurs stupides, joue sans se fatiguer et présente une liste d’options de grande valeur au joueur humain, qui est capable d’injecter une dose d’imprévisibilité et de latéralité. penser au jeu.
C’est le futur que GitHub espère que Copilot pourra introduire. Les programmeurs qui l’utilisent peuvent arrêter de se soucier de tâches simples et bien documentées, comme comment envoyer une requête valide à l’API de Twitter, ou comment extraire l’heure en heures et minutes d’une horloge système, et commencer à concentrer leurs efforts sur le travail que personne autre a fait.
Mais …
La raison pour laquelle Copilot me fascine n’est pas seulement son potentiel positif. C’est aussi que, dans une version, la société semble être tombée dans tous les pièges qui affligent le secteur plus large de l’IA.
Copilot a été formé sur les données publiques de la propre plateforme de Github. Cela signifie que tout ce code source, provenant de centaines de millions de développeurs du monde entier, a été utilisé pour lui apprendre à écrire du code en fonction des invites de l’utilisateur.
C’est parfait si le problème est une simple tâche de programmation. C’est moins bon si l’invite de saisie semi-automatique est, par exemple, des informations d’identification secrètes que vous utilisez pour vous connecter au compte utilisateur. Et encore:
GitHubCopilot m’a donné un [Airbnb] lien avec une clé qui fonctionne encore (et cesse de fonctionner lors du changement).
Et:
L’IA fuit [sendgrid] Clés API valides et toujours fonctionnelles.
La grande majorité de ce que nous appelons aujourd’hui l’IA n’est pas codée mais entraînée : vous lui donnez une grande quantité de choses et lui dites de déterminer par elle-même les relations entre ces choses. Avec la vaste somme de code disponible dans le référentiel de Github, il existe de nombreux exemples permettant à Copilot d’apprendre à quoi ressemble le code qui vérifie l’heure. Mais il existe également de nombreux exemples permettant à Copilot d’apprendre à quoi ressemble une clé API téléchargée accidentellement en public – et de la partager ensuite.
Les mots de passe et les clés sont évidemment les pires exemples de ce type de fuite, mais ils soulignent la préoccupation sous-jacente de nombreuses technologies d’IA : crée-t-elle réellement des choses, ou remixe-t-elle simplement le travail déjà effectué par d’autres humains ? Et dans ce dernier cas, ces humains devraient-ils avoir leur mot à dire sur la façon dont leur travail est utilisé ?
Sur cette dernière question, la réponse de GitHub est une énergique non. « La formation de modèles d’apprentissage automatique sur des données accessibles au public est considérée comme une utilisation équitable dans l’ensemble de la communauté d’apprentissage automatique », déclare la société dans une FAQ.
À l’origine, la société a affirmé de manière beaucoup plus douce que cela n’était qu’une «pratique courante». Mais la page a été mise à jour après que des codeurs du monde entier se soient plaints que GitHub violait leurs droits d’auteur. Curieusement, la plus grande opposition n’est pas venue d’entreprises privées craignant que leur travail ait pu être réutilisé, mais de développeurs de la communauté open source, qui construisent délibérément en public pour que leur travail soit construit à leur tour. Ces développeurs s’appuient souvent sur le droit d’auteur pour s’assurer que les personnes qui utilisent du code open source doivent publier ce qu’elles créent – ce que GitHub n’a pas fait.
GitHub a probablement raison sur la loi, selon le professeur de droit James Grimmelmann. Mais l’entreprise ne sera pas la dernière à révéler un nouvel outil d’IA révolutionnaire, puis à faire face à des questions délicates quant à savoir si elle a réellement les droits sur les données utilisées pour l’entraîner.
Si vous souhaitez en savoir plus, veuillez vous inscrire pour recevoir TechScape dans votre boîte de réception tous les mercredis
Inscrivez-vous à TechScape, la newsletter technique hebdomadaire d’Alex Hern
— to www.theguardian.com
