Papež Lev XIV řekl, že umělá inteligence nemá nic společného s Bohem. To se týká lidí.
V pondělí ráno se kouř rozplynul a obřad skončil. Nyní máme dokument od papeže Lva XIV. Magnifica Humanitas. Papež Lev XIV nečekal. Zveřejnil dopis o umělé inteligenci ještě předtím, než většina lidí vypila kávu. Toto není průvodce. Toto je varování.
„Použití umělé inteligence není jen divadelní cvičení… je to o právech, příležitostech a svobodě.“
Řekl to na rovinu. Vedle něj stál Christopher Olah z Anthropic. Spoluzakladatel. Člověk, který se zabývá interpretací dat. Vidět technologického CEO – nebo spíše spoluzakladatele – ve Vatikánu vypovídá o tom, jak rychle se tento sektor snaží získat legitimitu. Toto je partnerství. Strategický? Možná. Zvláštní? Velmi.
Reakce byly různé. Někteří technologičtí experti byli podráždění. Ostatním se ulevilo. Všichni se shodli na jednom: záleží.
Sacha Howorth řídí projekt Tech Oversight Project. Neváhala vyjádřit své myšlenky. Podle jejího názoru byl tento dopis přímou výzvou velkým technologickým společnostem. Ti generální ředitelé, kteří mluví o propouštění zaměstnanců, aby ušetřili peníze, jsou titíž lidé, kteří kupují politiky, aby prosadili zákony, které jim pomáhají.
“To bylo jasné varování…”
Howorth to řekl na rovinu. To je kritika.
Teď se to nestalo. Lidé jsou naštvaní. Šest z deseti Američanů tvrdí, že nemají žádnou kontrolu nad tím, jak umělá inteligence zpracovává jejich data. Ve městech, která léta nezaznamenala občanské nepokoje, probíhají protesty kolem datových úložišť. Někdo se dokonce pokusil poškodit CEO umělé inteligence. Mám špatnou náladu. Nepřátelský.
Proč tak měkký postoj k Anthropic? Olah tam byl. Tón byl…vyvážený? „Ne proti umělé inteligenci,“ říká Guru Sethupathi z Optro. “Ohledně odpovědnosti.” Líbí se mu to. Jiní, jako Daniel Kokotailo z projektu AI Futures Project, chtějí, aby církev byla přísnější. Mnohem přísnější. Říkají, že by to mělo znít hlasitě, ne jemně.
Ale je tu zajímavý bod. Antropičtí chtějí být vnímáni jako dobří lidé. Už měsíce bojují s Pentagonem kvůli vojenskému využití umělé inteligence. Spolupráce s Vatikánem pomáhá. To buduje důvěru. To jim umožňuje sedět u stolu, když jsou napsána pravidla.
Zmínili se o AGI? Ne. Více než jednou. Superinteligence? Nic. Dopis uznává, že stroje mohou být rychlejší než lidé. Možná chytřejší ve výpočtech. Ale nemají duši. Nemají žádnou moudrost.
Dean Ball na X si myslí, že se vyhýbá skutečné hrozbě. Chce, aby rozhovor byl o tom, co bude dál, ne o starých akademických obavách ze ztráty zaměstnání. Říká tomu únik. Kokotaylo souhlasí. Chce, aby tento problém brali vážně.
Církev říká ne. Toto není technický přehled. To je obrana lidské důstojnosti.
Nejlépe to řekla sestra Susan Francoisová. Jde o ochranu lidí. Brian Boyd z Notre Dame to nazývá výzvou k akci. Ne rozkaz. Táta chce regulaci. Spravedlnost. Ale nedal nám seznam pravidel.
To je normální, říkají příznivci. Kompas ukazuje na sever. Zbytek je na nás.
Je AGI nepřítel? Howorth si to nemyslí. Věří, že problémem je vytvoření podtřídy lidí. To je nebezpečí. Ne robotí bůh. My. Proti nim.
Aaron Fulkerson provozuje společnost Opaque Systems. Stará se o šifrovaná data. Vidí něco víc. Ignorujeme infrastrukturu. Podívejte se na CrowdStrike. Jeden špatný krok a globální banky se zastaví. Aerolinky pozastavují provoz. Amazon Web Services vypadne, polovina internetu se zastaví. Nyní si představte, co se stane, pokud laboratoře umělé inteligence použijí tuto infrastrukturu.
Dvě společnosti. Ovládají celé naše myšlení.
“Spíme…”
Fulkerson nemluví o myšlenkách umělé inteligence. Říká, že ztrácíme schopnost přizpůsobit se. Stabilitu jsme vyměnili za rychlost. Moc se rozděluje, když papež bojuje s technologickými společnostmi. Ale to není pravda. To je, když vše závisí na dvou pokojích v Kalifornii nebo někde jinde. Jedná se o systémové riziko. Jednoduché a jasné.
Táta přirovnal umělou inteligenci k Babilovi. Balvan, který se pokusil dosáhnout nebe prostřednictvím jediného jazyka. Homogenizace. Zisk před lidmi. Proměna záhad v data.
„Riziko dehumanizace je prastaré pokušení, které dnes nabývá technické podoby.“
Toto je biblický přístup k digitální krizi. Nezáleží na tom, jestli věříte v Boha nebo jen chcete stabilní servery, varování zůstává stejné.
Kdo poslouchá papeže v Silicon Valley? Zpočátku asi nikdo. To je podstata. Ať si myslí, že to mohou ignorovat. Mezitím se systém vyvíjí. Rychleji. Vyšší. Více homogenní.
