Šéf společnosti OpenAI Sam Altman varuje před scénářem, kdy bude vývoj a rozvoj umělé inteligence ovládat pouze úzká skupina mocných společností, modelů nebo jednotlivců. V nedělním vydání podcastu Davida Senry upozornil, že běžní spotřebitelé by v takovém případě ztratili možnost mluvit do toho, jak tato technologie utváří svět. Podle Altmana existuje riziko, že obavy z vymknutí AI z lidské kontroly vedou k volání po přísné regulaci, což paradoxně nahrává právě monopolizaci trhu na úkor svobody samotných uživatelů.
- Sam Altman varuje před soustředěním kontroly nad umělou inteligencí do rukou několika málo hráčů.
- Přehnané obavy z katastrofických rizik podle něj vedou k obětování svobody ve prospěch zdánlivé bezpečnosti.
- Debata o regulaci a bezpečnosti rozděluje lídry v Silicon Valley i v otázce takzvaných open-weight modelů.
Strach z rizik vede k obětování svobody
Altman zdůraznil, že správný přístup spočívá v tom, aby lidé měli budoucnost pevně ve svých rukách, přičemž společnost a AI modely by se měly vyvíjet společně. Zároveň však poukázal na paradox: obava z toho, že se AI vymkne svým tvůrcům, vede některé lídry k požadavkům na tvrdou státní regulaci. Lidé, kteří jsou z rozsahu rizik znepokojeni, mají podle něj tendenci obětovat velkou část svobody za cenu bezpečnosti.
Tato kritika pravděpodobně mířila na šéfa konkurenční společnosti Anthropic Daria Amodeiho, který dlouhodobě prosazuje větší roli vlád při regulaci AI. Amodei například v červnové eseji varoval, že nové modely Mythos představují reálná rizika pro kybernetickou bezpečnost, finanční sektor, kritickou infrastrukturu i národní bezpečnost.
Spor o otevřené modely rozděluje technologické giganty
Rozdílný přístup k regulaci se projevuje i v postoji k open-weight modelům, které vývojářům umožňují upravovat a provozovat technologii na vlastní infrastruktuře.
Společnost Anthropic byla minulý měsíc jedinou velkou AI firmou, která nepodepsala dopis podporující tyto otevřené modely. Naopak americké společnosti jako Nvidia, Meta či Microsoft argumentují, že USA musí otevřený přístup podporovat, jinak riskují ztrátu pozice vůči Číně. Ta otevřené modely využívá k tomu, aby držela krok se Silicon Valley za výrazně nižší náklady. Sama OpenAI sice kód svých nejlepších modelů nezveřejňuje, loni však vydala dva otevřené modely gpt-oss-120b a gpt-oss-20b.
Šéf OpenAI předpovídá rozmach malého podnikání
Altman v rozhovoru rovněž přiznal, že technologičtí lídři ve Spojených státech dosud nedokázali veřejnosti dostatečně předvést, jak může AI zvýšit samostatnost lidí v běžném životě. Do budoucna však očekává výrazný posun směrem k individuálnímu podnikání.
Podle Altmana se blíží vůbec největší rozmach zakládání malých podniků v historii, přičemž právě umělá inteligence bude tím hlavním nástrojem, který lidi posílí.
Měly by vlády více regulovat vývoj umělé inteligence, nebo je lepší ponechat trh co nejvíce otevřený? Podělte se o svůj názor v diskusi.
