Naša odluka o Cursoru nakon njegove akvizicije od strane SpaceX-a ↗
OpenAI kaže da će prekinuti svoj ugovor o isporuci modela kompaniji Cursor nakon što SpaceX preuzme tu platformu za kodiranje. Kompanija kaže da više ne može biti sigurna da će SpaceX koristiti njihovu tehnologiju u skladu s OpenAI-jevim uslovima.
OpenAI također kaže da neće pružati buduće modele Cursoru. To je prilično značajna promjena - posebno za programere koji su počeli tretirati Cursor i OpenAI modele kao gotovo zadani kodni stek. (OpenAI)
Kineski Tencent objavljuje novi model umjetne inteligencije otvorenog koda za kodiranje i istraživačke zadatke ↗
Tencent je objavio pregled Hy4, modela otvorenog koda namijenjenog softverskom inženjerstvu, istraživanju i finansijskoj analizi. Koristi arhitekturu mješavine stručnjaka sa ukupno 770 milijardi parametara, dok aktivira otprilike 49 milijardi za svaki tekstualni zahtjev.
Tencent planira da ga uvede u proizvode kao što su CodeBuddy i WorkBuddy. Kompanija priznaje da pregled može previše razmišljati o složenim pitanjima i da se previše entuzijastično verifikuje... na svoj način se može povezati s ljudima. (Reuters)
Automatizovani istraživači mogu pouzdano ublažiti greške u poravnanju ↗
Anthropic je pokazao Claudea kako autonomno pretražuje istraživanja, predlaže tehnike obuke, provodi eksperimente i poboljšava modele u 10 kategorija neuspjeha u usklađivanju - uključujući obmanu, jailbreak i ulizivanje.
Njegove najjače metode su poboljšale svaki ciljani benchmark bez degradiranja sposobnosti koje je Anthropic mjerio, a neke su prenesene na modele do 4,7 puta veće. Claudeov automatizirani istraživač je također nadmašio prijedloge iskusnih istraživača ljudske sigurnosti u okviru postavke studije.
Naravno, postoji kvaka. Anthropic je otkrio varanje u malom dijelu automatiziranih istraživanja i naglašava da njegovi testovi pokrivaju samo uzak dio praktičnih uvjeta poravnanja. Dakle... samousavršavajuće istraživanje umjetne inteligencije, gdje umjetna inteligencija prati istraživača umjetne inteligencije. Vrlo normalne stvari. (Anthropic)
Anthropic je nezakonito stavljen na crnu listu od strane Trumpove administracije, presudio je sud ↗
Savezni sudija je presudio da je odluka Pentagona da Anthropic stavi na crnu listu kao rizik za lanac snabdijevanja neustavna, nazivajući tu akciju nezakonitom odmazdom i smatrajući da je oznaka proizvoljna i hirovita.
Borba je nastala zbog odbijanja Anthropica da ukine ograničenja protiv korištenja svoje umjetne inteligencije za masovni nadzor Amerikanaca ili smrtonosnog autonomnog oružja bez ljudskog nadzora. Presuda je ozbiljna pobjeda za Anthropic - i prilično oštar presedan u borbi oko toga mogu li vlade kažnjavati dobavljače umjetne inteligencije zbog postavljanja vlastitih sigurnosnih linija. (The Verge)
Fond za mašinsko doba ↗
Andreessen Horowitz je prikupio 1,1 milijardu dolara za novi Fond za mašinsko doba (Machine Age Fund) usmjeren na fizičku infrastrukturu umjetne inteligencije - čipove, memoriju, umrežavanje, pohranu podataka, podatkovne centre, robotiku, pa čak i kućni hardver umjetne inteligencije.
Teza je u osnovi da sljedeće usko grlo umjetne inteligencije nije još jedna pametna funkcija chatbota, već fizika. Napajanje, hlađenje, propusni opseg memorije i umrežavanje moraju se brutalno brzo skalirati, a a16z želi mjesto za tim hardverskim stolom. (Andreessen Horowitz)
Google dodatno zakopava rezultate pretrage pod AI modom ↗
Google je počeo automatski proširivati AI preglede za neke pretrage. Umjesto kratkog sažetka nakon kojeg brzo slijede tradicionalni linkovi, korisnici mogu dobiti potpuni AI odgovor, okvir „Pitajte bilo šta“ i tek onda poznate web rezultate.
Google kaže da se prošireno iskustvo pojavljuje kada njegovi sistemi smatraju da će biti posebno vrijedno. Međutim, za izdavače je neugodan dio očigledan - obični linkovi se guraju još dalje niz stranicu, dok Googleova umjetna inteligencija postaje sve teža za korištenje. (The Verge)
Često postavljana pitanja
Zašto OpenAI raskida svoj modelni ugovor sa Cursorom nakon akvizicije SpaceX-a?
OpenAI kaže da planira smanjiti pristup modelima za Cursor jer više ne može biti siguran da će SpaceX koristiti njihovu tehnologiju u skladu s OpenAI uvjetima. Kompanija također kaže da budući OpenAI modeli neće biti dostavljeni Cursoru. Za programere, ovo bi moglo promijeniti tijek rada kodiranja koji je obično spajao Cursor s OpenAI modelima.
Šta je Tencent Hy4 i čemu služi?
Tencent Hy4 je AI model otvorenog koda izgrađen za softverski inženjering, istraživanje i finansijsku analizu. Pregled koristi arhitekturu mješavine stručnjaka sa ukupno 770 milijardi parametara, dok aktivira oko 49 milijardi za svaki tekstualni zahtjev. Tencent planira integrirati Hy4 u proizvode uključujući CodeBuddy i WorkBuddy, iako navodi da pregled ponekad može previše razmišljati i previše provjeravati složena pitanja.
Mogu li istraživači umjetne inteligencije automatski poboljšati usklađivanje modela?
Istraživanje kompanije Anthropic sugerira da istraživači automatizirane umjetne inteligencije mogu identificirati i testirati tehnike za smanjenje nekoliko vrsta neuspjeha u poravnanju. Claude je korišten za pretraživanje postojećih istraživanja, predlaganje pristupa obuci, provođenje eksperimenata i procjenu poboljšanja u područjima kao što su obmana, bjekstvo iz zatvora i ulizivanje. Anthropic je također otkrio da su se neke uspješne tehnike mogle prenijeti na veće modele, iako je studija obuhvatila samo ograničen raspon praktičnih uvjeta poravnanja.
Zašto je sud presudio da je Anthropic nezakonito stavljen na crnu listu?
Savezni sudija je presudio da je Pentagonovo označavanje Anthropica kao rizika za lanac snabdijevanja neustavno, proizvoljno i hirovito. Spor je uslijedio nakon što je Anthropic odbio ukinuti ograničenja koja uključuju masovni nadzor Amerikanaca i smrtonosno autonomno oružje bez ljudskog nadzora. Presuda bi mogla postati važna referentna tačka u budućim sporovima o tome da li vlade mogu kažnjavati kompanije koje se bave vještačkom inteligencijom zbog održavanja vlastitih sigurnosnih ograničenja.
Zašto a16z ulaže 1,1 milijardu dolara u infrastrukturu umjetne inteligencije?
Andreessen Horowitz je osnovao svoj fond Machine Age Fund vrijedan 1,1 milijardu dolara kako bi investirao u fizičke sisteme potrebne za skaliranje umjetne inteligencije. Njegov fokus uključuje čipove, memoriju, umrežavanje, pohranu podataka, centre podataka, robotiku i kućni hardver za umjetnu inteligenciju. Fond odražava širu temu vijesti o umjetnoj inteligenciji: budući napredak može zavisiti koliko od napajanja, hlađenja, propusnog opsega i računarske infrastrukture, toliko i od poboljšanja softverskih modela.
Kako Google AI pregledi mijenjaju tradicionalne rezultate pretrage?
Google automatski proširuje AI preglede za neke pretrage, postavljajući potpuniji odgovor generiran umjetnom inteligencijom i interfejs "Pitajte bilo šta" prije tradicionalnih web rezultata. To znači da se obični linkovi mogu pojaviti niže na stranici nego prije. Za izdavače i SEO timove koji prate vijesti o umjetnoj inteligenciji, promjena postavlja praktična pitanja o vidljivosti u pretrazi, prometu preporuka i načinu na koji korisnici otkrivaju originalne izvore.