Citation du 1er octobre 2017

Le danger dans le passé était que les hommes deviennent des esclaves. Le danger dans le futur est qu'ils deviennent des robots.

Erich Fromm (psychanalyste américain 1900-1980)

« Une machine dicte aux préparateurs de commandes l'allée où il doit se rendre pour prendre la marchandise, puis le nombre de colis qu'il a à porter. Ce dernier répond «ok» lorsqu'il a fini de charger. Les salariés naviguent ainsi sept heures par jour dans l'entrepôt et ne peuvent prononcer que 47 mots, ceux compris par la machine. A la pause, des employés racontent être obsédés par cette voix métallique et disent avoir l'impression de devenir des robots. »

Reportage« Cash investigation »

à propos de Lidl

du 27 septembre 2017 sur France 2

Oui, le risque autrefois imaginé de voir les robots supplanter les hommes en faisant les mêmes choses qu’eux – mais en mieux – est resté lettre morte. Non pas que l’intelligence artificielle soit restée dans les cartons, mais bien parce qu’on doit observer que ce n’est pas elle qui représente actuellement le plus grand danger pour les hommes. Ce qui nous fait trembler à présent, c’est que les hommes au travail deviennent des machines parce qu’ils sont contraints de travailler comme des machines. On connaissait depuis longtemps les cadences infernales infligées aux ouvriers par les machines-outils dont ils devaient alimenter l’insatiable appétit. Aujourd’hui, chez Lidl ces mêmes machines ne prennent pas la place des ouvriers ; par contre elles prennent la place du contremaitre.

Ce qui glace le sang à la lecture de ce reportage, ce n’est pas seulement que l’opérateur en soit réduit à recevoir les ordres de la machine, mais qu’il soit contraint de ne parler qu’à elle seule – car on le suppose, pas de temps pour échanger quelques mots, quelques vannes avec les collègues. Chacun a son écouteur enfoncé dans le conduit auditif, un micro à proximité des lèvres et son corps n’est plus que le véhicule de ses bras et de ses jambes pour exécuter la tâche demandée (1). On ne peut obéir à une machine qu’en devenant à son tour une machine et quand bien même elle aurait un vocabulaire un peu plus développé, sa logique serait toujours la même.

C’est ici qu’on peut corriger le sentiment primitivement ressenti : car ce n’est pas tant des robots qu’il faut avoir peur ; c’est de la logique de l’entreprise, celle qui n’a certes pas attendu la robotique pour sévir, qui a reconnu dans l’esclavage une forme idéale, qu’elle n’a de cesse d’imiter aujourd’hui.

Oui, c’est toujours la même logique : – Tu n’es là que pour faire ton travail, et tout le reste doit rester à la porte de l’usine. Et oui, voilà aussi ce qui fait vraiment peur : c’est quand l’opérateur (ou l’ouvrier comme on voudra l’appeler) n’existera dans l’entreprise que comme un outil qui n’existe que comme effectuateur (sic ?) de la tâche qui lui est dévolue.

----------------------------

(1) A mon avis, si les opérateurs sont maintenus, c’est parce que, pour le moment, ils coûtent moins cher que les machines.

Citation du 16 mai 2017

Le secteur tertiaire, les services, sont l’immense étirement des lignes d’étapes de l’armée de la distribution et de l’éloge des marchandises actuelles ; mobilisation de forces supplétives qui rencontre opportunément, dans la facticité même des besoins relatifs à de telles marchandises, la nécessité d’une telle organisation de l’arrière-travail

Debord – La société du spectacle (1967) 2 – § 45

Nous sommes toujours en 1967 et l’on croit encore à la répartition de la production économique en trois domaines : l’agriculture, l’industrie et les activité du secteur tertiaire – dont les services et l’organisation du commerce (définition ici). Conservant la hiérarchie marxiste, Debord considère la production matérielle comme l’essence même de l’économie, et la distribution comme dérivée : pour vendre des marchandises encore faut-il les produire. Sauf que Debord ajoute aussitôt : avant de produire des marchandises, il faut d’abord savoir à qui on va les vendre – il faut donc aussi produire le besoin de ces marchandises.

Reste que cette organisation commerciale constitue un « arrière-travail » qui résulte de la « mobilisation de forces supplétives », détachées de la production utile et associée à ce mode de l’illusion et de l’aliénation du commerce et de la publicité que constitue « la société du spectacle » (cf. ici).

Usine Volkswagen (lire ici : on y apprend que ce robot possède une « pince collaborative » - comment lutter contre de telles machines !)

Sauf que ça, c’est juste pour le temps où on n’aura pas eu du profit à construire la machine qui placera aussi les câbles électriques.

50 ans plus tard, que reste-t-il de cette analyse ? On admettra sans peine qu’en amont et en aval de la production, le travail humain reste indispensable : par exemple, pour imaginer la voiture de demain, il faut les ingénieurs R&D ; pour la vendre, il faut un commercial qui vous cajole le temps de vous faire sortir la carte bancaire. Mais entre les deux ? Il y a des ouvriers chinois, direz-vous ? Oui, mais très provisoirement : les robots (les vrais pas ceux de l’automation dont nous parlions récemment) ont depuis longtemps envahis les usines et ils ne cessent de progresser.

Citation du 15 mai 2017

Avec l’automation, qui est à la fois le secteur le plus avancé de l’industrie moderne, et le modèle où se résume parfaitement sa pratique, il faut que le monde de la marchandise surmonte cette contradiction : l’instrumentation technique qui supprime objectivement le travail doit en même temps conserver le travail comme marchandise, et seul lieu de naissance de la marchandise.

Debord – La société du spectacle (1967), 2 – § 45

Nous sommes en 1967 : les ordinateurs personnels n’existent pas encore, les robots sont des machines de laboratoire ou de fiction ; on ne possède pour en parler que le terme d’« automation », qui définit une théorie étudiant les conditions permettant « l'exécution totale ou partielle de tâches techniques par des machines fonctionnant sans intervention humaine. » (Dictionnaire)

Reste un problème, encore théorique en 1967 mais dont on devine déjà qu’il sera pressant dans un proche avenir : on vend des marchandises pour réaliser un profit ; or la production par des machines ne permet pas de faire de profit, puisque seul le travail humain produit une plus-value (Comme dit Guy Debord, la force de travail est la seule marchandise qui soit le « lieu de naissance de la marchandise »).

Cette thèse était pour les marxistes la preuve que le capitalisme succomberait un jour à ses propres contradictions. Debord, plus circonspect la définit comme une contradiction à surmonter (sans doute au sens hégélien de dépassement dans une synthèse (1)).

Bien sûr la thèse de Marx suppose qu’on admette que les machines ne produisent pas de plus-value, ce qui, étant donné les conditions actuelles du marché, et loin de se vérifier. Mais il y a quand même une urgence à reprendre la question posée par Guy Debord : c’est celle de la quantité – et surtout de la qualité – de travail dévolu aux machines. Il y a trop de bras devenus inutiles du fait de la mécanisation, et ces inemployés ont trop de bouches à nourrir. Si les machines continuent à se multiplier – et donc si contre la théorie elles continuent de produire du profit – alors on ne pourra jamais en freiner l’expansion, et il faudra bien un jour nourrir des gens inemployés non parce que l’économie est mal gérée mais au contraire parce qu’elle est gérée rationnellement.

Que faut-il faire devant ce chômage structurel ? Compter sur le progrès qui a jusqu’à maintenant toujours produit des tâches nouvelles qui échappaient aux machines ?

Ou s’orienter vers le malthusianisme, c’est-à-dire limiter le nombre d’homme à nourrir, sachant que la production des machines ne serait pas affectée par cette diminution de la population ?

Ou encore considérer que les biens produits ne sont plus à vendre mais à distribuer – ce qu’on anticiperait par le revenu universel ?

-------------------------------------

(1) Sur l’aufhebung hégélien voir ici

Citation du 30 mars 2016

Première Loi : « Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. »

Asimov – 1^ère des trois lois de la robotique (lire ici)

Intelligence artificielle (AIBOT) /avant le forum/ pol ; après /le forum/ pol

On l’a sans doute deviné avec ce dessin : je voudrais mettre en regard des lois d’Asimov le robot Tay, « l’intelligence artificielle qui déraille à cause de la bêtise humaine ».

Petit rappel pour ceux qui ont loupé l’information : Tay est un robot-logiciel censé figurer une internaute qui dialogue avec les humains, notamment les ados, et perfectionne ainsi ses capacités d’échanges verbaux. Malheureusement … des « trolls » l’ont inondée de blagues sexistes ou racistes. Au bout de quelques heures, Tay s’est mise à tenir elle-même des propos infâmes. (1)

Je devine que ce robot est une création d’ingénieurs naïfs qui ont fabriqué une sorte de machine-perroquet dénuée de conscience qui ne fait que reproduire ce que son environnement produit ; et si cet environnement est criminel, le robot, contredisant allègrement aux lois d’Asimov, le devient à son tour.

Certes, si Tay n’a pas de conscience morale (les ingénieurs de Microsoft vont essayer de parer ce défaut en installant dans sa mémoire des mots-clés interdits) il n’a pas non plus la volonté de nuire. Mais, est-ce une chance ? Est-ce que le guerrier le plus féroce n’est pas moins dangereux que la machine qui n’a pas besoin de faire cet effort supplémentaire pour passer à l’acte : je veux parler de la décision. Oui, il y aura toujours une différence entre l’homme et la machine : c’est l’absence d’acte machinal. Bien sûr cet acte peut aussi exister, mais il est un affaiblissement dans le comportement humain, le moment où justement, il n’est plus qu’un robot.

Bref, Asimov en parlant de robots, les décrits déterminés à secourir un humain menacé par un danger. Ce faisant il imagine les robots doués de volonté – montrant qu’il les confond avec les humains.

----------------------------------------

(1) Lire ici

Citation du 3 février 2016

A travers tous les trafics, manipulations ou transmutations génétiques de l'espèce, on est arrivé à un point de non-retour où l'on ne peut plus déterminer ce qui est humain ou non humain.

Jean Baudrillard – Le Monde de l'éducation – Octobre 1999

En 1999 Baudrillard pointe comme avancée extrême de la science la suppression de la barrière qui sépare les espèces, voire même les genres, permettant à des souris de porter des gènes humains et aux herbivores de consommer des farines animales (d’où d’étranges maladies comme celle de la vache folle). On en concluait que ces savants étaient des apprentis sorciers et que, comme le docteur Frankenstein, ils seraient bientôt pourchassés et détruits par leurs propres créations.

Mais voilà : depuis cette date, le progrès scientifique a continué dans la même voie destructrice de frontières. Désormais c’est à la frontière qui sépare l’homme de la machine qu’on s’attaque, avec les ordinateurs neuronaux. Je ne suis certes pas en état de vulgariser le fonctionnement de ces étonnants ordinateurs, mais on sait quand même que grâce à l’architecture de leurs programmes et à celle de leurs composants, ils s’approchent de plus en plus près du fonctionnement du cerveau humain, devenant en particulier capables d’apprentissage.

J’ai déjà attiré l’attention sur la question du rapport machine/pensée avec l’exemple de la Pascaline datant 1642 (1). Aujourd’hui on peut je crois généraliser la thèse : la science progresse en sautant les frontières et probablement en les effaçant du même coup. Les modifications génétiques n’en sont qu’à leurs premiers balbutiements ; il adviendra un jour où on parviendra à rendre les singes capables de parole, de pensée – et puis viendra un jour où des hommes lassés de rendre les machine semblables à eux s’efforceront de devenir eux-mêmes des machines, cessant d’être vivants pour accéder à l’immortalité.

C’est de la science-fiction direz-vous ? Pour le moment, oui – mais avouez que c’est un horizon vers le quel nous sommes déjà tournés.

-----------------------------------

(1) « La machine d'arithmétique fait des effets qui approchent plus de la pensée que tout ce que font les animaux ; mais elle ne fait rien qui puisse faire dire qu'elle a de la volonté, comme les animaux. » - Blaise Pascal Pensées - N° 627 (Le Guern) Lire ici.

Citation du 30 septembre 2014

Partout des robots obéissant à des ordinateurs prennent la place des hommes. Ils ne tombent guère malades, ils ne sont pas syndiqués, ils n'ont pas d'état d'âme ; la lutte est inégale. Dans une société menée par la compétition, la machine remplace l'homme, et l'homme n'a plus d'utilité. Il n'est même plus nécessaire d'exploiter les travailleurs ; il suffit de se passer d'eux. A l'exploitation a succédé l'exclusion. Comment imaginer que des sociétés puissent rester paisibles quand une foule d'hommes et de femmes s'entendent dire qu'ils sont de trop ? Avec la définition de l'homme que nous avons adopté, chacun devient lui-même au foyer du regard des autres : pour faire un homme, il faut des hommes Aucun ne peut donc être de trop, toute élimination de l'un est une déperdition pour tous.

Albert Jacquard    J'accuse l'économie triomphante, p.32-33.

Ce texte est un peu long, décomposons-le :

1 – « Partout des robots obéissant à des ordinateurs prennent la place des hommes. Ils ne tombent guère malades, ils ne sont pas syndiqués, ils n'ont pas d'état d'âme ; la lutte est inégale. Dans une société menée par la compétition, la machine remplace l'homme, et l'homme n'a plus d'utilité. »

2 – « Il n'est même plus nécessaire d'exploiter les travailleurs ; il suffit de se passer d'eux. A l'exploitation a succédé l'exclusion. Comment imaginer que des sociétés puissent rester paisibles quand une foule d'hommes et de femmes s'entendent dire qu'ils sont de trop ? »

3 – « Avec la définition de l'homme que nous avons adopté, chacun devient lui-même au foyer du regard des autres : pour faire un homme, il faut des hommes Aucun ne peut donc être de trop, toute élimination de l'un est une déperdition pour tous. »

o-o-o

Maintenant, analysons :

L’idée ramenée à son ultime aboutissement est relativement simple : l’utilité de chaque homme est de contribuer à l’existence de tous les autres ; on a donc besoin de tous et de chacun.

Ça, c’est ce que tout le monde pense ; seulement on croit que c’est par son travail que l’individu est utile à la communauté – d’où le problème posé par la machine rivale du travailleur. D’où aussi le désespoir du chômeur à qui on dit : « Fiche le camp, on n’a plus besoin de toi. Tiens prends quand même ton indemnité : on ne va pas te laisser mourir de faim ! » (1)

Non – La nécessité pour nous d’être entouré d’autres hommes, c’est que « chacun devient lui-même au foyer du regard des autres : pour faire un homme, il faut des hommes ».

Et là, aucune machine ne peut remplacer l’être humain.

o-o-o

Et alors : qu’en pensons-nous ?

Vous, je ne sais pas. Mais moi, je me dis que j’ai des amis très chers de qui je reçois plein de messages affectueux qui me prouvent que mon existence est largement justifiée. Mais au mendiant sur le bord du trottoir, je ne fais même pas l’aumône d’un regard. Qu’il demande ça aux autres miséreux de son espèce !

----------------------------------------------------

(1) Pour l’indemnité ça risque de ne plus durer très longtemps

Relevons aussi au passage la remarque d’Asimov : A l'exploitation a succédé l'exclusion. Le chômeur est bien heureux quand quelqu’un consent à l’embaucher, c’est-à-dire à l’exploiter