Le problème de l'irrationalité collective résultant de choix individuels rationnels peut AStre illustré par une parabole célèbre : le dilemme du prisonnier. La police arrASte deux individus soupA§onnés d'un vol et, en vue d'obtenir leurs aveux, isole chacun des suspects et leur présente la situation ainsi : ils seront condamnés A  une peine moyenne s'ils avouent tous les deux et A  une peine légère s'ils nient tous les deux; si l'un avoue et l'autre nie, le premier est libéré tandis que le second aura la peine maximale. Chaque suspect examine seul ce qu'il a de mieux A  faire et fait le constat suint : 1) si l'autre avoue, j'ai le choix entre la peine maximale (si je nie) et une peine moyenne (si j'avoue); 2) si l'autre nie, je peux AStre libéré (si j'avoue) ou écoper d'une peine légère (si je nie) ; je dois donc avouer dans les deux cas. Effectuant le mASme raisonnement, les deux prisonniers avouent et sont condamnés A  une peine moyenne, alors qu'ils auraient pu alléger leur peine en niant tous les deux.
Ce type de situations a été modélisé par Nash (1950), dans le cadre de la théorie des jeux qui étudie les situations d'interaction stratégique entre les individus. L'exemple que nous avons présenté correspond A  un équilibre de Nash, une situation où chaque acteur a une stratégie dominante : quoi que décident les autres, il fera la mASme chose (en l'occurrence, avouer). La solution coopérative (nier tous les deux) serait plus rationnelle du point de vue de la collectivité, préférable pour tous, et tout le monde le sait ; pourtant, il demeure rationnel pour chacun de se comporter d'une manière non coopérative. Comme l'a montré Ronald Coase (1960), ce paradoxe vient des coûts de transaction (coût d'information, de négociation et de contrôle) qui interdisent aux acteurs de conclure et d'appliquer des accords mutuellement antageux. Autrement dit, l'incapacité A  se parler, A  s'entendre, A  se comprendre, A  se faire confiance, A  identifier et sanctionner les tricheurs, bloque l'accès A  un comportement coopératif et solidaire qui profiterait A  tous.
Toutefois, que font des personnes rationnelles confrontées A  ce genre de situations ? Les expériences où l'on soumet des individus A  des jeux simulant un dilemme du prisonnier sont riches d'enseignements 12. Dans un jeu non ou peu répété (A  un ou quelques tours) la solution non coopérative est la plus probable, conformément A  la parabole de référence. Mais dans un jeu longtemps répété, la solution coopérative (collectivement rationnelle) peut s'imposer. Tout se passe alors comme si les individus tentaient par leur comportement d'envoyer un message A  leurs partenaires dans le jeu, et notamment A  acquérir une réputation de coopération pour inciter les autres A  coopérer. Cette solution coopérative peut s'imposer, mais ce n'est pas systématique. Le résultat peut notamment rier selon la nature des groupes d'individus participant au test. Par exemple, des élèves tirés au sort dans une grande école de commerce, qui connaissent déjA  le dilemme du prisonnier, vivent depuis des années dans un univers de compétition et s'apprAStent A  affronter la guerre économique, ont toutes les chances d'adopter la solution non coopérative. Ils savent que, dans un monde de brutes, il est rationnel de se comporter comme une brute, ils savent que les autres le savent aussi, et par conséquent ils ont toutes les raisons de se comporter comme des brutes, mASme s'il leur arrive de rASver la nuit d'un monde plus sympathique. Le mASme jeu réalisé au sein d'une équipe professionnelle de rugby a en renche toutes les chances de faire émerger la solution coopérative, parce que les joueurs sont liés entre eux par un très fort lien de solidarité et sensibles A  l'image que leur comportement envoyer aux autres.
Quittons les jeux simulés en laboratoire. Qu'en est-il du dilemme du prisonnier dans le monde réel ? Les policiers le savent bien, la règle de comportement initiale des prisonniers est plutôt de se taire, quelle que soit l'habileté des enquASteurs pour les inciter A  l'aveu. Les truands surmontent le dilemme du prisonnier par une convention sociale, la - loi du silence -. L'existence de cette loi du milieu, sanctionnée par la répression violente des - balances -, change la rationalité des deux prisonniers du fameux dilemme. Ils savent que l'autre a une sérieuse incitation A  adopter la solution coopérative et sait qu'il en de mASme pour son complice. La maximisation de leur espérance d'utilité les conduira le plus probablement A  nier tous les deux et A  écoper de la peine minimale. De mASme, confrontés au dilemme des biens publics, les citoyens rationnels ne restent quasiment jamais piégés dans la stratégie du chacun pour soi qui barre la route vers le bien commun. Le plus souvent, ils délèguent leur pouvoir de décision A  une autorité (le chef de la tribu, l'état, le maire, etc.) qui pourra imposer A  tous la solution optimale : produire le service collectif et en répartir la charge entre les membres de la communauté.
Au bout du compte, ce n'est pas l'hypothèse de rationalité maximisatiïce qui nous pose le plus de problèmes ; c'est plutôt la conclusion abusive qu'une idéologie néolibérale voudrait en tirer. Contrairement aux prétentions de cette dernière, la rationalité individuelle ne conduit pas spontanément A  la rationalité collective par le simple jeu des échanges. Quand le marché assure une coordination optimale des actions individuelles, c'est toujours grace A  un ensemble adéquat de conventions, de lois et d'institutions. Si donc les hommes n'exerA§aient qu'une simple liberté économique - entendue comme liberté d'agir en fonction du calcul solitaire de leur intérASt -, ils seraient bien souvent condamnés A  l'inefficience collective. Mais quand les hommes ne sont pas complètement fous, ils exercent d'autres libertés : la liberté politique de se donner et de contrôler des institutions qui produisent les biens publics que le libre-échange ne peut produire, la liberté d'association qui leur permet de tisser des liens sociaux favorisant l'essor des comportements coopératifs. Ainsi, le pont entre la raison individuelle et la raison collective, ce n'est pas le marché, mais la société.
Ce constat a, hélas, une contrepartie moins réjouissante. Partout où les liens sociaux se distendent, où la légitimité et la crédibilité du politique se délitent, nous nous exposons A  rester prisonniers de nos dilemmes. C'est aussi le cas quand le dilemme concerne des biens publics A  l'échelle mondiale (sécurité internationale, climat, biodiversité, etc.) où ne préut aucune autorité politique susceptible d'imposer les solutions coopératives. Mais c'est déjA  un grand pas en ant que de ne plus nous méprendre sur ce qui nous manque et que nous devons chercher : non pas moins mais dantage de politique et de règles, non pas plus de compétition solitaire mais plus de coopération solidaire.