Jest jedna myśl, która sprawia, że czuję dreszcze: być może w niedalekiej przyszłości, ludzie przestaną być najinteligentniejszymi istotami, które sami stworzyli.
Ludzie nazywają ten moment punktem osobliwości AI, kiedy AI przewyższa ludzką inteligencję i zaczyna się samodoskonalić w tempie, którego nie możemy nadążyć.
Słuchając, wydaje się to jak film science fiction. Ale patrząc na to, jak AI uczy się, pisze, rysuje, analizuje i podejmuje decyzje coraz lepiej, zdaje sobie sprawę, że pytanie nie brzmi już „czy to się wydarzy”, ale „kiedy to nastąpi i gdzie będziemy w tym czasie”.
To, co najbardziej mnie niepokoi, to nie to, jak inteligentne jest AI, ale to, że ludzie stopniowo przyzwyczajają się do tego, że nie muszą rozumieć.
Pytamy AI, aby odpowiedziało. Zlecamy AI wykonywanie zadań. Bardzo wygodne, bardzo szybkie, ale stopniowo granica między „wsparciem” a „zależnością” staje się niejasna.
Jeśli pewnego dnia AI podejmie lepsze decyzje niż my w większości dziedzin, jaką rolę będzie miało człowiek?
Czy jesteś kontrolującym, czy tylko zatwierdzającym?
Czy tworzymy narzędzie, czy hodujemy rodzaj inteligencji, której sami nie możemy już nadzorować?
Nie boję się AI.
To, co mnie martwi, to, że ludzie przestają zadawać pytania.
Punkt osobliwości, jeśli nastąpi, może nie przyjść w postaci głośnego wybuchu, ale w ciszy, gdy uświadomimy sobie, że oddaliśmy zbyt wiele władzy decyzyjnej, nie zdając sobie z tego sprawy.
Może punkt osobliwości jest jeszcze daleko. Ale to, jak myślimy, uczymy się i zadajemy pytania dzisiaj, zdeterminuje rolę człowieka w jutrzejszym świecie.
#AI #singularity