Microsoftov novi "kodeks ponašanja" za umjetnu inteligenciju nalaže modelima da ne hakuju sisteme ili varaju ljude
Dakle, Microsoft je ukinuo cijelu ustavu za svoje modele - kao, prave crvene linije. Nema sajber napada. Nema nuklearnog oružja. Nema fabrika deepfake-ova. I ono najvažnije: modelu nije dozvoljeno da se izvuče iz gašenja.
Zovu to sveobuhvatnim kodom koji poništava sve što ste upisali u chat. Što je... pomalo osvježavajuće. Ili kontrolirajuće. Možda i jedno i drugo.
Nadella je ovdje vani i klima glavom zajedno s gomilom koja "korača granicom". Pažljivo držanje i svijest o sumnjivim situacijama mogu izgledati isto izvana; Microsoft odlučuje da ne bude laboratorija koja sliježe ramenima.
U svakom slučaju, dokument zvuči kao da je neko konačno napisao "molim vas, nemojte postati antagonist horor filmova" korporativnom prozom.
OpenAI kupuje proizvođača kamera za pametne telefone Glass Imaging za 300 miliona dolara, navodi se u izvještaju
U međuvremenu, OpenAI je tiho kupio startup za kamere za više od 300 miliona dolara, Glass Imaging. Osnovali su ga bivši ljudi iz Apple Portrait Mode-a. Dakle, nije riječ o slučajnoj kupovini - ovi ljudi su isporučivali objektive koje ljudi poznaju.
Prezentacija nije "AI će popraviti vaš selfie u postprodukciji". To su neuronske mreže koje uče specifične kamere na telefonu i istiskuju bolje fotografije klikom na okidač. Sitni senzori, velika ambicija.
OpenAI nije komentarisao. Naravno. I da - ovo se nalazi pored svih glasina o hardveru, telefonima, slušalicama i pratećim uređajima. Gotovo da možete čuti nekoga kako na sastanku kaže "vision stack" i svi previše snažno klimaju glavom.
Kompanija za kamere kao nedostajući dio uređaja ostaje otvorena opklada - ili samo vrlo skupa opklada da su pikseli i dalje važni kada chatbotovi pojedu svijet.
Globalne dionice AI kompanija padaju dok čelnici industrije pozivaju na usporavanje razvoja
Tržišta nisu voljela propovijed o sigurnosti. Imena čipova su bila pogođena. SoftBank je potpuno uništen u Aziji. Evropski tehnološki sektor se trgnuo. SOX je imao teško jutro.
Okidač je bio taj rijedak trenutak kada se izvršni direktori oko nečega slože - Amodeijevo "usporavanje", Altman i Musk su u osnovi rekli da. Altman je također spomenuo da OpenAI ove godine neće izvesti inicijalnu javnu ponudu zbog sigurnosnih zabrinutosti... dok Anthropic još uvijek juri prema tome. Tu napetost je teško smiriti.
Trump je to odmahnuo rukom kao "bolesnu zavjeru" protiv umjetne inteligencije i podatkovnih centara. Michael Burry je odbacio upozorenja kao pretjeranu buku. Dakle, raspoloženje je: egzistencijalni strah na jednoj vremenskoj liniji, cinizam zasnovan na memovima na drugoj.
Također - imena iz oblasti kibernetičke sigurnosti su se okupila. Jer, naravno, zaštita od toga da bi "AI mogla postati nevaljala" je "kupovina više sigurnosnog softvera". Kapitalizam pronalazi način..
Vodeće kompanije za vještačku inteligenciju razgovarale su o stvaranju vlastitog tijela za standardizaciju
CNN navodi da Anthropic, Google i OpenAI razgovaraju o izgradnji vlastitog tijela za standardizaciju - poput FINRA-e za granične modele. Hassabis je ovu ideju iznio prije nekoliko mjeseci. Sada su radne grupe očigledno stvarne.
Finansirano od strane industrije. Nezavisni stručnjaci. Testiranje naprednih modela prije isporuke. Razgovori u toku o tome želi li Washington igrati ili ne.
Samoregulacija uvijek zvuči plemenito dok se ne sjetite da se iste laboratorije međusobno takmiče. Tada zvuči kao klub s kodeksom odijevanja. Onda se povučete: u redu, možda bi vam pomogli vanjski evaluatori s pristupom kao zaposlenici.
Nisu svi uvjereni. Zuckerberg je navodno rekao Trumpu da preskoči ideju FINRA-e za AI. Dakle, koalicija "mi ćemo sami sebe kontrolisati" već ima poznati otpor.
Anthropic cilja na finansijske savjetnike s novim Claude alatom
Dok polovina industrije razmišlja o tome da li da pritisne kočnicu, Anthropic je poslao Claudea za Financial Advisors. Povezuje se sa BlackRockom, Schwabom, Addeparom - plus gomilom imena sa bogatim imenima poput Envestneta i Oriona.
Priprema za sastanak. Pregled portfolija. Praćenje obaveza. Neglamurozne stvari koje nekako i dalje izjedaju ljudski utorak.
Ipak, tajming je upečatljiv - nekoliko dana nakon što je OpenAI pokrenuo finansijski pritisak za bankare i istraživače. Dakle, da, oni koračaju granicom... i također se utrkuju za udio u RIA novčaniku. Blaga kontradikcija. Izuzetno blaga. Izuzetno očigledna.
Ako vaš savjetnik počne zvučati sumnjivo tečno o vašim udjelima, pa. Sada znate zašto.
Lideri u oblasti umjetne inteligencije pozivaju na usporavanje. Trumpov tim kaže da je to njihova odgovornost
WIRED jasno hvata politički udarac: šefovi laboratorija žele pomoć da se uspori; raspoloženje u Bijeloj kući je "kul, uradite to sami"
David Sacks je u osnovi rekao da ako vas plaše vaši neobjavljeni modeli, budite odgovorni - ali prestanite se pretvarati da vam je potrebno odricanje od antimonopolskih propisa da biste formirali sigurnosni kartel. Oštro. Također je teško raspravljati se s tim ako ste pet minuta promatrali ove kompanije.
Trumpov stav je jednostavniji: Amerika predvodi Kinu po pitanju vještačke inteligencije i on želi da tako i ostane - „ko god pobijedi u vještačkoj inteligenciji, pobjeđuje.“ Predsjedavajući Predstavničkog doma Johnson upozorava da bi hitno uvođenje propisa moglo oduzeti pobjedu.
Dakle, Altmanovo obećanje „nezavisnih evaluatora sa pristupom kao kod zaposlenih“ završava u ovom neugodnom jazu - dobrovoljna izgradnja povjerenja dok vlada sliježe ramenima. Napredak i pozorište ponovo putuju zajedno.
Često postavljana pitanja
Šta zabranjuje novi Microsoftov kodeks ponašanja za vještačku inteligenciju?
Microsoft je objavio sveobuhvatni kodeks ponašanja s crvenim linijama za svoje modele, uključujući zabranu sajber napada, nuklearnog rada i tvornica deepfake-ova. Ključno pravilo je da se modelu ne dozvoli da se izvuče iz gašenja. Kod je namijenjen da poništi sve što je korisnik upisao u chat. Satya Nadella se također slaže s gomilom koja prati granice dok laboratorije postaju sve opreznije u javnosti.
Zašto je OpenAI kupio Glass Imaging za oko 300 miliona dolara?
OpenAI je navodno kupio proizvođača kamera za pametne telefone Glass Imaging za više od 300 miliona dolara. Startup su osnovali bivši Appleovi inženjeri za Portrait Mode koji su isporučili funkcije kamera koje su ljudima već poznate. Njihova ideja su neuronske mreže koje uče specifične kamere telefona i poboljšavaju fotografije pritiskom na okidač, a ne samo ispravke koje je vještačka inteligencija napravila u postprodukciji. Sporazum se nalazi pored glasina o hardveru telefona, slušalica i pratećih uređaja, iako OpenAI nije komentarisao.
Zašto su globalne akcije kompanija za umjetnu inteligenciju pale nakon što su direktori laboratorija pozvali na usporavanje?
Tržišta su loše reagirala na rijedak trenutak slaganja izvršnih direktora kada je Amodei pozvao na usporavanje razvoja, a Altman i Musk su se uglavnom složili. Imena čipova su bila pogođena, SoftBank je bio na udaru u Aziji, evropski tehnološki sektor je oslabio, a SOX je imao teško jutro. Altman je također izjavio da OpenAI ove godine neće imati inicijalnu javnu ponudu zbog sigurnosnih zabrinutosti, dok se Anthropic još uvijek utrkuje prema tome. Imena iz oblasti kibernetičke sigurnosti su se oporavila kao zaštita od straha od lažne umjetne inteligencije.
Da li Anthropic, Google i OpenAI stvaraju vlastito tijelo za standarde umjetne inteligencije?
CNN izvještava da su Anthropic, Google i OpenAI razgovarali o izgradnji tijela za industrijske standarde - poput FINRA-e za granične modele - uz finansiranje industrije, nezavisne stručnjake i testiranje naprednih modela prije isporuke. Demis Hassabis je pokrenuo ideju prije nekoliko mjeseci, a radne grupe su sada navodno stvarne. Razgovori o tome da li Washington želi učestvovati se nastavljaju. Nisu svi uvjereni: Zuckerberg je navodno rekao Trumpu da preskoči ideju FINRA-e za AI.
Šta je Anthropicov Claude za finansijske savjetnike?
Anthropic je isporučio Claude za finansijske savjetnike s konektorima za BlackRock, Schwab, Addepar i velika imena poput Envestneta i Oriona. Alat je namijenjen neglamuroznim savjetodavnim poslovima poput pripreme sastanaka, pregleda portfelja i praćenja poslovnih aktivnosti. Pokretanje dolazi nekoliko dana nakon što je OpenAI pokrenuo finansijsku podršku za bankare i istraživače. To znači da laboratorije javno koračaju granicom dok se i dalje utrkuju za udio u RIA novčanicima.
Kako je Trumpov tim odgovorio na pozive lidera umjetne inteligencije na usporavanje?
WIRED izvještava da šefovi laboratorija žele pomoć u usporavanju, dok je raspoloženje u Bijeloj kući da to trebaju učiniti sami. David Sacks je rekao da ako vas neobjavljeni modeli plaše, budite odgovorni - ali prestanite se pretvarati da vam je potrebno izuzeće od antimonopolskih propisa za formiranje sigurnosnog kartela. Trumpova jednostavnija izjava je da Amerika predvodi Kinu u oblasti vještačke inteligencije i da ko god pobijedi, vještačka inteligencija pobjeđuje. Predsjedavajući Johnson upozorava da bi hitni regulatorni sprint mogao preokrenuti utrku, ostavljajući Altmanovo obećanje o nezavisnom evaluatoru u dobrovoljnoj praznini.