Vitalik Buterin ostrzega przed „autonomicznymi” agentami AI

Twórca Ethereum, Vitalik Buterin, opublikował na platformie X manifest, w którym sprzeciwia się dążeniu do pełnej autonomii agentów AI bez ścisłej kontroli człowieka. Według niego, obecny zachwyt nad „samodzielną” Sztuczną Inteligencją jest krótkowzroczny i może prowadzić do katastrofalnych skutków dla ludzkości.

Buterin podkreśla, że technologia powinna służyć wzmocnieniu pozycji człowieka, a nie tworzeniu systemów, które działają obok niego, ignorując jego potrzeby.

Kluczowe punkty krytyki Buterina:

• Pułapka „Slopu” (śmieciowego kontentu): Bez gęstej pętli zwrotnej z ludźmi, AI zamiast realnej wartości generuje „slop” – niskiej jakości, bezużyteczny szum informacyjny, który zalewa Internet.
• Ryzyko antyludzkich scenariuszy: Wraz ze wzrostem mocy obliczeniowej, całkowita autonomia maszyn zwiększa ryzyko nieodwracalnych skutków, które mogą być sprzeczne z interesami gatunku ludzkiego.
• Fałszywa suwerenność: Buterin zauważa hipokryzję: dzisiejsze modele działają na serwerach gigantów takich jak OpenAI czy Anthropic. Nie ma mowy o „self-sovereign” (samostanowieniu), to ta sama scentralizowana logika, z którą walczy Ethereum.
• Misja Ethereum: „Ethereum powstało, by wyzwolić ludzi, a nie po to, by umożliwić działanie autonomicznym bytom, podczas gdy sytuacja człowieka pozostaje bez zmian lub się pogarsza” – pisze Buterin.
• Walka o kierunek rozwoju: Rozwój AI jest wykładniczy i nieunikniony. Kluczowym zadaniem jest teraz wybór odpowiedniego kierunku („atratora”), aby uniknąć scenariuszy, z których nie będzie już powrotu.

Co to oznacza dla branży?

Wypowiedź Vitalika to jasny sygnał dla deweloperów budujących na blockchainie: projekty łączące krypto i AI powinny stawiać na model Human-in-the-loop (człowiek w pętli decyzyjnej). Autonomia maszyn bez nadzoru społecznego jest postrzegana jako zagrożenie dla wartości, na których zbudowano Web3.