Pourquoi l’IA ne sera jamais neutre : l'importance du discernement humain

Tout va vite. Trop vite parfois…

Chaque semaine, un nouvel outil, une nouvelle fonction, une démo qui nous en met plein les yeux. A force, difficile de ne pas se sentir pris dans un tourbillon… où chacun y va de son visuel, de son opinion tranchée.

Team “Wow”, team “c’est trop”, team “moi je fais tout à la main”…

Le phénomène des visuels façon Ghibli, Simpsons, Pixar… puis des Starter Pack IA, a été un révélateur amusant… qui questionne aussi.

Au milieu de tout ça, parfois une drôle de sensation qui monte et une sorte de fatigue cognitive qui peut s’installer.

Pour ma part, je n’ai pas la lassitude d’un outil mais c’est parfois la fatigue du trop-plein, de la surenchère, de cette impression de participer à une machine sans fin, où tout se ressemble, où tout s’oppose. Et l’impression que la vitesse et la facilité pourraient aussi nous faire perdre le sens de ce que l’on crée.

Avec une question qui revient : pourquoi on fait tout ça ? Pour qui ? Au service de quoi ?

Garder le cap face au tourbillon IA

Sur LinkedIn encore, Lysandre Michaud-Verreault (membre du groupe de travail IA & Tourisme au Québec) partageait récemment : “Si vous vous sentez dépassés par l’actualité IA et que vous ressemblez à cette photo… c’est normal ! Et vous n’êtes pas seuls.”

Entre excitation face aux possibilités… et fatigue face au rythme effréné.

Dans les commentaires, Pierre Eloy rappelait qu’on revivait sans doute un peu ce qu’on avait connu à l’explosion du web 2.0. Et Jean-Philippe Duchesneau nous invitait à retrouver un peu de sérénité et de bon sens : “On n’a pas besoin de suivre toutes les nouveautés IA à la lettre pour avancer intelligemment”.

Prioriser, choisir ses outils, se donner le droit de ralentir… C’est même devenu indispensable.

Face à tout ça…

Plus je travaille avec l’IA au quotidien, plus je suis fasciné, plus je vois ses limites aussi… Et plus je ressens le besoin de poser des repères. Pas pour me freiner (en tout cas je n’en ai pas l’impression) mais pour garder les pieds sur terre et garder du sens. Peut-être aussi pour ne pas oublier que derrière les machines… il y a toujours nous :)

Et dans le secteur du tourisme, cette accélération interroge obligatoirement : comment s’assurer de continuer à transmettre l’authenticité d’une destination, la singularité d’une expérience, à l’ère des contenus automatisés ?

Le Manifeste du Café ☕

C’est dans cet état d’esprit que j’ai ressenti le besoin de poser quelques repères. Même si, pour être tout à fait franc, je n’ai jamais été très fan des manifestes et autres documents de ce type... Trop souvent, j’y ai vu de grandes déclarations de principe, parfois un peu éloignées du terrain.

Mais plus j’avance avec l’IA, plus je suis convaincu qu’avoir un cadre clair, même simple, devient juste essentiel pour garder du sens.

C’est donc ainsi qu’est née la 1ère version du Manifeste du Café : 7 principes concrets, inspirés de ce que je fais et partage depuis mes premiers pas avec l’IA.

Avec une conviction toute simple : L’IA est un outil pour nous aider, pas pour décider à notre place.

Pourquoi l’IA ne sera jamais neutre

Pendant mes réflexions sur ce sujet, j’ai eu la chance qu’on me partage le dernier numéro du magazine Sciences Humaines, qui aborde justement la question de l’IA (merci à ma voisine d’avoir pensé à moi quand elle a vu ce numéro :).

Ils y rappellent un point essentiel :

“Les IA génératives ne sont pas neutres — elles amplifient les biais, les préjugés, les visions dominantes de leurs bases d’entraînement.”

Même si leurs réponses peuvent sembler objectives, elles ne le sont jamais totalement. Une raison de plus de garder notre vigilance… et notre bon sens.

Pourquoi certaines décisions resteront toujours humaines…

Une décision humaine, ce n’est pas juste cocher une case ou choisir l’option la plus probable. C’est plus souvent s’engager, prendre une responsabilité, accepter un risque, faire un choix qui va parfois au-delà de la simple logique.

Et dans le tourisme, quand on recommande un lieu plutôt qu’un autre, qu’on propose une expérience, qu’on oriente un projet, il y a mille éléments invisibles qui entrent en jeu : nos intuitions, notre expérience, nos valeurs…

Et dans Sciences Humaines, le philosophe Daniel Andler, l’exprime très bien en une phrase limpide :

“La frontière ultime entre l’homme et la machine, c’est l’expérience vécue.”

L’IA, elle, trie. Elle calcule, elle suggère… mais elle ne ressent rien. Pas d’enjeu personnel, pas de vision d’ensemble, pas de “je” derrière ses réponses (même si elle sait très bien nous le faire croire et le simuler).

Et c’est précisément pour cela que certaines décisions resteront toujours profondément humaines.

Comment garder le contrôle ? 4 réflexes simples pour rester aux commandes

Le problème, ce n’est pas l’IA. Le vrai risque, c’est d’en perdre le contrôle… sans même s’en rendre compte d’ailleurs. Quand on automatise sans vérifier, que l'on publie sans relire, ou encore, quand on délègue sans se poser de questions. Bref, quand on laisse filer ce fichu bon sens…

Alors comment profiter de la puissance de l’IA sans perdre la main sur l’essentiel ?

Je n’ai évidemment pas la réponse mais je vous partage quelques réflexes simples que j’essaie moi-même d’appliquer au quotidien (et je me rends compte que ce n’est pas toujours gagné…) :

1. Toujours vérifier avant de publier

Même si l’IA écrit vite (et souvent plutôt bien), elle n’est vraiment jamais à l’abri d’une erreur, d’une imprécision ou d’une interprétation hasardeuse. Bien au contraire… et j’en fais l’expérience tous les jours !

2. Contextualiser les réponses

Une IA peut donner une info exacte… mais dans un contexte précis. Sortie de ce contexte, elle peut vite induire en erreur.

Une recommandation touristique générique ne remplacera jamais un conseil adapté aux saisons, aux attentes des visiteurs, à l’esprit du lieu (on est d’accord que j’enfonce carrément une porte ouverte là… mais à ne pas oublier)

3. Humaniser le message

La tentation peut être grande de laisser faire l’IA, au risque de produire des textes lisses, “trop parfaits”… et surtout sans âme.

4. Assumer ses choix

L’IA propose mais c’est nous qui décidons.

A la fin, c’est toujours vous qui signez, qui engagez votre projet, votre marque, votre vision.

Pour résumer…

Garder l’IA à sa juste place

Pour conclure, l’IA ouvre des possibilités incroyables, c’est clair ! Elle nous aide à aller plus vite, à imaginer autrement, à explorer de nouvelles idées. Et j’en suis assez fan ! Mais elle n’a ni intuition, ni responsabilité, ni sens du risque.

A la fin, c’est toujours nous qui devons donner du sens à ce qu’elle produit. Utiliser l’IA, oui, mais sans lui déléguer ce qui fait notre valeur humaine.

Pour aller plus loin…

J’ai concentré mes réflexions au niveau individuel mais l’éthique de l’IA, c’est aussi, et surtout, une question collective : gouvernance, régulation, impacts environnementaux…

On va certainement continuer d’aborder ces enjeux avec d’autres acteurs du tourisme. Je pense notamment à Arnaud Morillon, qui a signé un article intéressant dans etourisme.info “IA-t-il un pilote dans l’avion ?”, où il invite à faire un pas de côté.

Mais aussi à Cédric Chabry, Sébastien Repeto, Guillaume Cromer… et toutes celles et ceux qui voudront contribuer à ces réflexions, ici ou ailleurs.