Ilya Sutskever, en av OpenAImedgrundare, startar nytt företag: Safe Superintelligence Inc. (SSI)
Ilya Sutskever, en av OpenAI:s medgrundare, har startat ett nytt företag, Safe Superintelligence Inc. (SSI), bara en månad efter att han formellt lämnade OpenAI.
Sutskever, som länge var OpenAIchefsforskare, grundade SSI tillsammans med tidigare Y Combinator-partnern Daniel Gross och ex-OpenAI-ingenjören Daniel Levy.
På OpenAI var Sutskever en central figur i företagets ansträngningar att förbättra AI-säkerheten med uppkomsten av ”superintelligenta” AI-system, ett område han arbetade med tillsammans med Jan Leike, som medledde OpenAISuperalignment-team. Både Sutskever och Leike lämnade företaget i maj efter en dramatisk konflikt med ledningen på OpenAI om hur man skulle närma sig AI-säkerhet. Leike leder nu ett team på konkurrenten Anthropic.
Sutskever har länge belyst de svårare aspekterna av AI-säkerhet. I ett blogginlägg publicerat 2023, förutspådde Sutskever, tillsammans med Leike, att AI med intelligens överlägsen människans kan anlända inom decenniet — och att när det sker, kommer det inte nödvändigtvis vara välvilligt, vilket kräver forskning om sätt att kontrollera och begränsa det.
Han är tydligt lika engagerad i frågan idag. I ett tweet som tillkännager bildandet av Sutskevers nya företag, står det att: ”SSI är vår mission, vårt namn och hela vår produktfärdplan, eftersom det är vårt enda fokus. Vårt team, investerare och affärsmodell är alla anpassade för att uppnå SSI. Vi närmar oss säkerhet och kapaciteter i tandem, som tekniska problem att lösa genom revolutionerande ingenjörskonst och vetenskapliga genombrott.”
”Vi planerar att utveckla kapaciteter så snabbt som möjligt samtidigt som vi säkerställer att vår säkerhet alltid ligger steget före. På så sätt kan vi skala i fred. Vårt enda fokus innebär ingen distraktion av ledningsöverhead eller produktcykler, och vår affärsmodell innebär att säkerhet, trygghet och framsteg alla är isolerade från kortsiktiga kommersiella påtryckningar.”
Sutskever talade med Bloomberg om det nya företaget i större detalj, även om han avböjde att diskutera dess finansieringssituation eller värdering.
Mer uppenbart är att till skillnad från OpenAI — som ursprungligen lanserades som en ideell organisation 2015 och sedan omstrukturerades när de enorma summor pengar som behövdes för dess datorkraft blev mer uppenbara — är SSI designat från grunden som ett vinstdrivande företag. Döma av intresset för AI och teamets meriter specifikt, kan det mycket snart svämma över av kapital. ”Av alla problem vi står inför,” säger Gross till Bloomberg, ”kommer kapitalanskaffning inte vara ett av dem.”
SSI har kontor i Palo Alto och Tel Aviv, där de för närvarande rekryterar teknisk talang.
