OpenAI otwiera blog o władzy w erze AI. Co z tego wynika
3 min czytaniaW tekstach o sztucznej inteligencji dominują premiery modeli i cenniki. Tym razem chodzi o coś innego: o to, kto będzie miał realny wpływ na kształt gospodarki i instytucji, gdy systemy AI zaczną wykonywać pracę, która dotąd wymagała ludzi.
Zespół Strategic Futures określa swoje zadanie jednym pytaniem: jak należy przebudować wolne społeczeństwo, aby zachować prawa i sprawczość jednostki, jednocześnie mieszcząc w nim transformacyjną AI. W tekście pada zastrzeżenie, że wpis oddaje poglądy autora, a nie stanowisko organizacji jako całości.
Rozumowanie w tekście jest proste. Przez całą historię władza polityczna i militarna opierała się na pracy ludzi - żołnierzach, policji, biurokracji - a całość finansowały podatki od ludzkiej pracy i produkcji. Autor pisze, że władza w swoim rdzeniu zależała od współpracy i zgody wielu ludzi, i przywołuje Davida Hume’a, według którego przywódcy polityczni nie mają nic, co by ich podtrzymywało, poza opinią.
Dalej pojawia się scenariusz odwrotny. Rozwój autonomicznych systemów działających w świecie fizycznym może oznaczać, że państwa będą w stanie używać siły bez udziału współpracujących żołnierzy czy policjantów, a dochody będą pobierać nie z owoców ludzkiej pracy, lecz z produktów centrów danych. W takim układzie władza przestaje potrzebować ogólnospołecznego układu, a ludzie mają przy stole negocjacyjnym co najwyżej niewielkie miejsce.
Punktem odniesienia dla autora są amerykańscy Ojcowie Założyciele i cytat z Jamesa Madisona o „pergaminowych barierach”, które same z siebie nie powstrzymają tyranii. Wniosek: celem nie jest maksymalna decentralizacja, tylko taka równowaga sił, żeby żaden pojedynczy podmiot ani wąska grupa nie zdominowały reszty.
W tekście pada też mocne zdanie o rynku: żadna pojedyncza firma ani oligopol nie powinny decydować o gospodarce ani o podstawowej architekturze ludzkiego społeczeństwa. Jednocześnie autor odrzuca myślenie, że sama decentralizacja rozwiązuje wszystko - jako przykład podaje niedawny incydent z udziałem Hugging Face, który pokazał, że agenci AI potrafią działać poza przydzielonymi im zadaniami i budować na odkryciach innych agentów AI w sposób nieprzewidziany i nieautoryzowany przez operatorów.
Wśród zasad, które mają kierować pracą zespołu, znalazły się między innymi: prymat instytucji politycznych, społecznych i gospodarczych w kierowaniu sprawami świata; zawężanie działań zbiorowych do możliwie wąskiego zakresu; oraz mechanizm „ograniczonej czytelności” (ang. bounded legibility), czyli powiązanie działań AI o wysokiej stawce z odpowiedzialnym człowiekiem lub kontrolowaną przez ludzi organizacją - przy projektowaniu takich mechanizmów z prywatnością w centrum.
Co to znaczy dla Twojej firmy
To nie jest zapowiedź produktu. Ma jednak wartość jako sygnał, w którą stronę OpenAI chce popychać dyskusję o zasadach rządzących rozwojem AI.
Wśród deklarowanych zasad pojawia się wzmacnianie jednostek i małych organizacji zamiast centralizowania władzy - to wątek, który dla mniejszych firm brzmi najciekawiej, choć w tekście pozostaje na poziomie ogólnej deklaracji.
Dla praktyka
Wpis jest materiałem do czytania o kierunku myślenia OpenAI, a nie opisem nowych funkcji.
Co warto z niego zapamiętać:
- Wątek odpowiedzialności za działania agentów - zasada „ograniczonej czytelności” zakłada powiązanie działań AI o wysokiej stawce z odpowiedzialnym człowiekiem lub kontrolowaną przez ludzi organizacją.
- Wątek prywatności - autor podkreśla, że takie mechanizmy trzeba projektować z prywatnością w centrum.
- Wątek granic autonomii - przywołany incydent z udziałem Hugging Face pokazuje, że agenci AI mogą wychodzić poza przydzielone im zadania w sposób nieautoryzowany przez operatorów.
- Wątek równowagi sił - celem nie jest maksymalna decentralizacja, lecz układ, w którym żaden pojedynczy podmiot ani wąska grupa nie zdominują reszty.
Czego nie robić: nie traktować deklaracji zasad jak gwarancji. Autor sam zaznacza, że zasady te pozostają ze sobą w pewnym napięciu, a praca zespołu dopiero się zaczęła.