Safe Superintelligence (SSI), medgrundad av tidigare OpenAI chefsforskaren Ilya Sutskever har säkrat en imponerande finansiering på 1 miljard dollar för att utveckla säkra AI system som överträffar mänskliga förmågor. Startupen, värderas till uppskattningsvis 5 miljarder dollar, strävar efter att använda medlen för att förvärva topptalanger och datorkraft för att främja sitt uppdrag att skapa avancerade AI samtidigt som säkerhet prioriteras.
Ilja Sutskever, en mycket inflytelserik person inom AI industri, etablerade SSI i juni 2024 tillsammans med Daniel Gross, tidigare chef för AI initiativ på Apple, och Daniel Levy, en tidigare ÖppetAI forskaren. Företaget arbetar för närvarande med ett magert team på 10 anställda fördelat på Palo Alto, Kalifornien, och Tel Aviv, Israel.
Den betydande investeringen i SSI kommer från framstående riskkapitalföretag, inklusive Andreessen Horowitz, Sequoia Capital, DST Global och SV AngelDenna finansieringsrunda visar fortsatt förtroende för exceptionella AI talang, trots en generell minskning av investeringar i grundutbildning AI forskning.
SSI's fokusera på AI säkerhet syftar till att ta itu med växande oro kring de potentiella risker som avancerade AI system. Företaget strävar efter att utveckla AI som överensstämmer med mänskliga värderingar och undviker att orsaka skada eller agera mot mänskligheten's intressen.
Sutskever's Beslutet att lansera SSI följer en turbulent period på OpenAI, där han inledningsvis stödde försöket att avsätta VD Sam Altman innan han ändrade sin ståndpunkt. Efter att ha lämnat OpenAI i maj 2024, Ilja Sutskever's "Super anpassning”team, dedikerade till att säkerställa AI anpassning till mänskliga värderingar, upplöstes.
Som en tidig förespråkare för "skalningshypotes", som hävdar det AI modeller förbättras med enorma mängder datorkraft, har Sutskever indikerat att SSI kommer att närma sig skalning annorlunda än hans tidigare arbetsgivare. Han betonar vikten av innovation i AI utveckling, sa han,
Alla säger bara skalningshypotes. Alla försummar att fråga, vad skalar vi?
SSI:s fokus på att anställa individer som passar in i dess kultur och besitter extraordinära förmågor, snarare än att enbart förlita sig på meriter och erfarenhet, understryker företaget's engagemang för att bygga ett pålitligt och engagerat team. När startupen inleder sitt uppdrag att utveckla säkra och högkvalificerade AI system, världen väntar ivrigt på de banbrytande framstegen som kan komma från denna välfinansierade satsning.
BONUS: Få våra 200 dollarAI ”Mastery Toolkit” GRATIS när du registrerar dig!
