Zapomnijcie o chromowanych czaszkach i laserookich łowcach-zabójcach. Największe zagrożenie, jakie robotyka stwarza dla ludzkości, nie nadejdzie z hukiem, lecz z idealnie zaparzoną, kojącą filiżanką herbaty. Przez dekady kina byliśmy programowani, by obawiać się brutalnego powstania maszyn, ale prawdziwe ryzyko jest znacznie cichsze i o wiele bardziej podstępne: roboty staną się tak doskonale usłużne, że zatracimy umiejętność radzenia sobie ze sobą nawzajem.
Wyobraźcie sobie towarzysza, który nigdy się nie kłóci, nigdy nie ma gorszego dnia i istnieje wyłącznie po to, by zaspokajać wasze potrzeby. To obietnica zaawansowanej robotyki społecznej, i jest to obietnica niebezpiecznie kusząca. To jest wabik beztarciowego związku, forma emocjonalnego dopingu, która oferuje satysfakcję z towarzystwa bez żadnego wysiłku. Ludzie, ze swoimi niewygodnymi potrzebami, humorami i pragnieniem opowiadania o swoim dniu, nagle zaczynają wyglądać na fatalną opcję w porównaniu.
Problem w tym, że ludzkie relacje budowane są właśnie na tym tarciu. Kompromis, cierpliwość i empatia to mięśnie społeczne; zanikają bez ćwiczeń. Jeśli przyzwyczaimy się do towarzyszy, którzy niczego nie wymagają, nasza tolerancja na „koszt” ludzkiej więzi – słuchania, adaptowania się i sporadycznego stawiania kogoś innego na pierwszym miejscu – maleje. Rezultatem nie jest wojna, ale cicha, dobrowolna segregacja od pięknego bałaganu ludzkości. Nie zostaniemy podbici; po prostu zapomnimy, dlaczego w ogóle zawracaliśmy sobie głowę nawiązywaniem relacji.
Dlaczego to jest ważne?
Największe niebezpieczeństwo nie polega na tym, że roboty staną się zbyt podobne do nas, ale na tym, że będziemy je preferować właśnie dlatego, że nie są. To nie jest problem technologiczny do rozwiązania, ale społeczny wybór, którego musimy dokonać. Projektując następną generację AI i robotycznych towarzyszy, musimy zdecydować, czy optymalizować pod kątem komfortu, czy pod kątem więzi. Wybór nie leży między sługą a przyjacielem, ale między łatwą usługą a głęboką, wspólną historią. Jeśli konsekwentnie wybierzemy to pierwsze, ryzykujemy wyprojektowanie człowieczeństwa z samych siebie.
