Safe Superintelligence (SSI), medgrunnlagt av tidligere OpenAI Sjefsforsker Ilya Sutskever har sikret seg imponerende 1 milliard dollar i finansiering for å utvikle trygge AI systemer som overgår menneskelige evner. Oppstartsbedriften, verdsatt til anslagsvis 5 milliarder dollar, har som mål å bruke midlene til å anskaffe topptalenter og datakraft for å fremme sitt oppdrag med å skape avansert AI samtidig som sikkerheten prioriteres.
Ilja Sutskever, en svært innflytelsesrik skikkelse i AI industri, etablerte SSI i juni 2024 sammen med Daniel Gross, tidligere leder av AI initiativer hos Apple, og Daniel Levy, en tidligere OpenAI forsker. Selskapet opererer for tiden med et magert team på 10 ansatte fordelt på Palo Alto, California, og Tel Aviv, Israel.
Den betydelige investeringen i SSI kommer fra fremtredende venturekapitalfirmaer, inkludert Andreessen Horowitz, Sequoia Capital, DST Global og SV AngelDenne finansieringsrunden viser fortsatt tillit til eksepsjonelle AI talent, til tross for en generell nedgang i investeringer i grunnutdanning AI forskning.
SSI's Fokuser på AI sikkerhet har som mål å adressere økende bekymringer om de potensielle risikoene som avanserte AI systemer. Selskapet søker å utvikle AI som stemmer overens med menneskelige verdier og unngår å forårsake skade eller handle mot menneskeheten's interesser.
Sutskever's Beslutningen om å lansere SSI kommer etter en turbulent periode hos OpenAI, hvor han i utgangspunktet støttet forsøket på å avsette administrerende direktør Sam Altman før han snudde standpunktet sitt. Etter å ha forlatt OpenAI i mai 2024, Ilja Sutskever's "Superjustering"teamet, dedikert til å sikre AI samsvar med menneskelige verdier, ble oppløst.
Som en tidlig talsmann for "skaleringshypotese", som antyder det AI modeller forbedre med enorme mengder datakraft, har Sutskever indikert at SSI vil tilnærme seg skalering annerledes enn hans tidligere arbeidsgiver. Han understreker viktigheten av innovasjon i AI utvikling, sa han,
Alle sier bare skaleringshypotese. Alle unnlater å spørre, hva skalerer vi?
SSI-er fokus på å ansette personer som passer inn i kulturen og har ekstraordinære evner, i stedet for utelukkende å stole på kvalifikasjoner og erfaring, understreker selskapet's forpliktelse til å bygge et pålitelig og dedikert team. Etter hvert som oppstartsbedriften starter sitt oppdrag med å utvikle trygge og svært kompetente AI systemer, verden venter spent på de banebrytende fremskritt som kan dukke opp fra denne godt finansierte satsingen.
BONUS: Få våre 200 dollarAI «Mestringsverktøysett» GRATIS når du registrerer deg!
