OpenAI'nin Patlamasından Sonra "Yapay Zeka Güvenliği"nin Gerçek Bir Şey olmadığı Oldukça Açık Görünüyor - Dünyadan Güncel Teknoloji Haberleri

OpenAI'nin Patlamasından Sonra
Mevcut iddialar yeterince güçlü olmasa da vakalar revize edilebilir ve yeniden doldurulabilir Sam’in tüm endüstri bağlantılarına sahip olduğunu, yüksek mevkilerdeki arkadaşlarının olduğunu, çok sevildiğini ve bu tür bir sosyal sermayenin her şey olduğu bir dünyada ona karşı çıkmanın kariyer intiharı anlamına geldiğini anlamamış gibi görünüyorlar Muzaffer Sam, tahtayı devirdikten sonra OpenAI türüne geri dönüyor tonlarca kişi gibi popüler oldu Satya Nadelle ile ilgili memler Teknoloji endüstrisi söz konusu olduğunda, son birkaç günde meydana gelen olaylardan daha şok edici bir dizi olayın yaşanıp yaşanmadığını söylemek zor Cruise’un skandalları şirketin tüm araçlarını geri çekmesine neden oldu Kaliforniya’da yolların dışında Ekim ayında ve en sonunda ülke çapındaki operasyonlar durdurulacak Eğer kralın yanına gelirsen, kaçırmasan iyi olur

Aslında yönetim kurulunun tüzüğü, hissedarlarına değil “insanlığa” bağlılığını borçludur Pek çok kişinin belirttiği gibi, kuruluşun etik misyonu, kuruluşa yatırım yapanların ekonomik çıkarlarıyla doğrudan çatışıyor gibi görünüyor Aslında artık biliyoruz ki, sözde kurşun geçirmez organizasyon yapısına ve belirtilen sorumlu yapay zeka geliştirme misyonuna rağmen, OpenAI’nin etiği paranın önüne koymasına asla izin verilmeyecek Her zamanki gibi para kazandı

Neden Herkes Yapay Zeka Şirketlerine Dava Açıyor? | Geleceğin Teknolojisi

Neyse, kahretsin Daha açık bir ifadeyle, bizi kontrolden çıkmış yapay zekaya karşı koruması gereken kişiler (yani yönetim kurulu üyeleri), yani bu güçlü teknolojinin sorumlu yönetimiyle görevlendirilenler, ne yaptıklarını bilmiyor gibi görünüyorlar

Ancak OpenAI’nin draması için belirli katalizörler hakkında spekülasyon yapmakta çok fazla takılıp kalmak, tüm bölümün ortaya çıkardığı şeyi görmezden gelmek anlamına gelir: Gerçek dünya söz konusu olduğunda, Silikon Vadisi’ndeki “Yapay Zeka güvenliği” neredeyse geçersiz ve hükümsüzdür Vogt, şirketi 2013 yılında kurdu ve onu otomatikleştirilmiş seyahat endüstrisinde önemli bir yere taşıdı

  • MC Hammer görünüşe göre büyük bir OpenAI hayranı türler tamamen memlerden Elbette şunlar vardı: Halefiyet Mizah

    Bölümün dramasının büyük kısmı, Altman ile yönetim kurulu arasındaki “Yapay Zeka güvenliği” konusundaki tartışmanın etrafında dönüyor gibi görünüyor Bunu bizzat buldum derin sahte video Altman’ın yüzünü Jordan Belfort’unkiyle değiştiriyor Para Avcısı iyi biri olmak Bununla birlikte, bu davalar başarısız gibi görünse de, başarılı olmaları için mesele sadece uygun yasal argümanı bulma meselesi olabilir Bununla birlikte, hakimiyetini yeniden tesis eden korkak, para takıntılı üst düzey yöneticilere de güvenemeyeceğimizi düşünüyorum Bunun nedeni, patronlarını kovduklarında ortaya çıkacak öngörülebilir sonucu tahmin bile edemeyen bir grup insana güvenmenin oldukça zor olmasıdır Imo, onlar açıkça doğru şeyi yapmayacağım Bununla birlikte, bu sürükleyici olayın uzun vadeli etkilerinin, ilk bakışta görülenden çok daha az keyifli olacağı kesin

    Diğer yazarlar zaten teklif etti arızalar OpenAI’nin benzersiz organizasyon yapısının onu nasıl kendisiyle çatışma rotasına soktuğu hakkında saldırı olarak algıladıkları şeyi kınadılar bölümün gerçek kurbanı hakkında (kapitalizm elbette) Bununla birlikte, organizasyonun şirket kısmı on milyarlarca dolar değerinde olduğu bildirildi Rust Cohl’un komplo meme’leri Teknoloji dünyası tam olarak neye tanık olduğunu anlamak için çabalarken, dolaşımdaydı

    OpenAI krizinin yarattığı anlaşmazlık çözüme kavuştukça, şirketin her zamanki gibi işine geri dönmek için iyi bir konumda olduğu görülüyor Saray entrikaları ve toplantı odası draması Sam Altman’ın görevden alınması OpenAI yönetim kurulu tarafından (ve onun muzaffer iade bugün erken saatlerde) şüphesiz Silikon Vadisi’nin başına gelen en patlayıcı olaylardan biri olarak tarihe geçecek

    Yönetim kurulunun başarısızlığıyla, OpenAI’nin iyilikseverlerinin yalnızca kendi “güvenlik” misyonlarını geriletmekle kalmayıp, aynı zamanda AI etik hareketine karşı büyük bir tepkiyi de başlatmış olabileceği açık görünüyor

    Açık olmak gerekirse, yapay zeka güvenliği gerçekten önemli bir alandır ve eğer gerçekten kurumsal Amerika tarafından uygulansaydı, bu bir şey olurdu Yani buna rağmen Microsoft, OpenAI’ye megaton miktarda para ve kaynak akıttı, girişimin yönetim kurulunun (varsayımsal olarak) ürünlerine ve teknolojisine ne olacağı konusunda son sözü söylemesi gerekiyor Şirketler sattıkları teknolojilerin endişe verici ve yıkıcı olabileceğinin farkındadır; tüketicileri ve toplumu korumak için ellerinden geleni yaptıklarına dair kamuoyuna güvence vermek istiyorlar Bununla birlikte, yorumlarda en sevdiğiniz kişinin sesini kısın Bir dizi görsel sanatçının Midjourney ve Stability AI’ye karşı açtığı dava hepsi dışarı atıldı Geçen ay bir hakim tarafından “etkili hızlandırıcılar” (kısaltılmış “e/acc”) ek hükümet düzenlemeleri, “teknoloji etiği” ve “Yapay Zeka güvenliği” gibi konuların gerçek teknolojik gelişmenin ve katlanarak artan kârın önündeki hantal engeller olduğuna inanıyor Hafta sonu, “Yapay Zeka güvenliği” hakkındaki anlatı ortaya çıktıkça, bu inanç sisteminin daha ateşli taraftarlarından bazıları X’i tercih etti

    Pek çok kişinin ifade ettiği şekliyle “darbe”, büyük ölçüde Sam ile OpenAI yönetim kurulu arasında şirketteki teknolojik gelişmenin hızı konusunda yaşanan ideolojik ayrılığa atfedildi hakkında şakalar da vardı kimin yerine geçmeli Altman ve ne sebep olmuş olabilir Güç mücadelesi her şeyden önce Konuya ilişkin bir örnek: Bu hafta sonu yaşanan olay, sektörde zaten oldukça radikal olan güvenlik karşıtı ideolojiyi daha da radikalleştirmiş gibi görünüyor Çarşamba günü, bu haftaki güç mücadelesinin kaosu sona ererken rapçi tweet attı: “710 plus’a selam ve tebrikler@OpenAI benzersiz bir sadakat, sevgi ve bağlılık gösterisi sergileyen ekip üyeleri @sama Ve @gdb bu tehlikeli zamanlarda şahit olmak çok güzel bir şeydi Peki bu iki şey ne zaman çelişmedi?

    Günün sorusu: OpenAI dramasından ortaya çıkan en iyi meme hangisiydi?

    Bu haftanın benzeri görülmemiş bir karmaşa o kadar çok mem ve alaycı yaklaşıma ilham kaynağı oldu ki, bir favori seçme yeteneği neredeyse imkansız görünüyor Daha sonra, Microsoft’un devrilen CEO’nun arkasında duracağı netleştikçe anlatı ve memler değişti Şirketin kurucusu ve CEO’su Kyle Vogt, istifa Pazartesi günü Kaliforniya eyaleti, şirketi bir yayanın yaşadığı şiddet olayıyla ilgili önemli ayrıntıları açıklamamakla suçladı Böyle bir gruba, sözde “süper zeki”, dünyayı sarsan bir teknolojiyi denetleme konusunda tam olarak nasıl güvenilebilir? Eğer bir grup öfkeli yatırımcıyı alt edemiyorsanız, muhtemelen inşa ettiğini iddia ettiğiniz Skynet tipi varlığı alt edemezsiniz Daha sonra OpenAI’nin güçlü ortağı ve fon sağlayıcısı Microsoft’un yanı sıra bir startup personelinin çoğunluğudaha sonra bir karşı darbeye öncülük ederek hainleri dışarı attı ve kendisini şirketin lideri olarak yeniden görevlendirdi Bir taraf diğerine kesinlikle üstün geldi (ipucu: para tarafıydı) OpenAI bu hafta zor durumda kalan tek teknoloji firması değil Ve nihayet, X kullanıcılarının açıkça dahil olduğu kaçınılmaz bir meme türü ortaya çıktı


    Gizmodo’nun yapay zekada olup bitenler hakkında derinlemesine bir inceleme yaptığımız haftalık özeti olan AI Bu Hafta’ya hoş geldiniz

    Bütün bunlar söylendiğinde, Altman’ın görevden alınmasının gerçek nedenleri hâlâ kamuoyuna açıklanmadığı için, hafta sonu yaşanan olaylara ilişkin bu yorumu henüz tam olarak desteklemememiz gerektiğini öne sürebilirsiniz ek finansman peşinde koştu otokratik Ortadoğu rejimleri aracılığıyla Sonrasında fırlatma Şirket, yönetim kurulundaki tek iki kadının mali görevli Larry Summers Altman şirkete geri döndü (Altman ile dayanışma amacıyla istifa eden eski şirket başkanı Greg Brockman gibi) ve Microsoft’un üst düzey yöneticisi Satya Nadella, bunu söyledi kendisi “OpenAI yönetim kurulundaki değişikliklerden cesaret aldı” ve bunun “daha istikrarlı, bilgili ve etkili yönetime giden yolda ilk önemli adım” olduğunu söyledi Aslında skandal birkaç farklı olaya yol açtı Bu haftanın tuhaflığına ek olarak, “U Can’t Touch This” rapçisi MC Hammer’ın onaylanmış bir OpenAI hayranı olduğunu da öğrendik OpenAI’ler kendi kendini tanımlama ana amacının para kazanmak değil, dünyayı daha iyi bir yer haline getirmek olduğu şeklindeki idealist düşünceyi destekliyor:

    OpenAI’nin yapısını (orijinal Kâr Amacı Gütmeyen Kuruluşumuz ile yeni sınırlı kâr kolu arasındaki bir ortaklık) OpenAI’nin misyonu için bir çerçeve olarak tasarladık: güvenli ve tüm insanlığa fayda sağlayan yapay genel zeka (AGI) oluşturmak Gerçekten de şirketin tarihindeki bu endişe verici bölüm, OpenAI’nin iki karşıt kişiliğinin alevlenmesi gibi görünüyor; biri araştırma ve sorumlu teknolojik gelişime, diğeri ise tonlarca para kazanmaya dayalı Silverman yalnız değil Bununla birlikte, bunun OpenAI’de mevcut olan versiyonu, muhtemelen sahip olan şirketlerden biri ”

  • Yaratıcılar yapay zeka telif hakkı savaşını kaybediyor Belki startup’ı görmüşsündür kuruluş şeması İnternette dolaşıyoruz ama eğer yapmadıysanız, işte size kısa bir özet: Var olan diğer teknoloji şirketlerinin hemen hemen hepsinden farklı olarak OpenAI, aslında kar amacı gütmeyenTamamen kendi yönetim kurulu tarafından yönetilen, kâr amacı güden bir şirketi işleten ve kontrol eden Bu arada alternatif teoriler de ortaya çıktı; bazıları Altman’ın agresif çıkışının gerçek nedenlerinin kesinlikle daha renkli olduğunu ileri sürdü; tıpkı onun yönelttiği suçlamalar gibi Çoğunlukla şirket üyeleri ya konuşmuyoruz Sam’in dışarı atılmasının veya atılmasının nedenleri hakkında açıkça reddedildi onun görevden alınmasının yapay zeka güvenliğiyle bir ilgisi olduğunu söyledi Bu hafta, komedyenin (telif hakkı ihlalleriyle suçlandığı) teknoloji devlerine karşı açtığı davanın başarısızlıkla sonuçlandığı ortaya çıktı Ancak günün sonunda, şirketin “ahlakının” parasıyla çelişmesi durumunda bu çabaların bir fark yaratacağına inanmamız için hiçbir neden olmadığını artık biliyoruz Yani aslında insanlık bir kaya ile sert bir yer arasında sıkışmış durumda Ancak şirketin işi berbat San Francisco’da araçların piyasaya sürülmesi Ağustos ayındaki olay, şehir sakinleri ve kamu güvenliği yetkilileri tarafından yaygın bir şaşkınlığa ve çok sayıda şikayete yol açtı

    Kısacası: Eğer kurumsal yapay zeka güvenliğinin amacı insanlığı kontrolden çıkmış yapay zekadan korumaksa, o zaman bunu yapmak için etkili bir strateji olarak ilk büyük sınavından başarıyla geçmiştir General Motors’un sahibi olduğu robotaksi şirketi Cruise da oldukça zorlu bir süreçten geçiyor





  • genel-7

    OpenAI yönetim kuruluyla alay etti Altman’a karşı yapılan darbeyi tamamen ortadan kaldırdığı için en çok yapılan “güvenlik” odaklı bir model takip etmek – teknoloji endüstrisinin reelpolitik entrikalarıyla pek örtüşmüyor gibi görünüyor Altman’ın devrilmesinin hemen ardından çok sayıda olay yaşandı

    Teknoloji endüstrisinin “etik” ve “güvenliği” benimsemesinin asıl amacı bir dereceye kadar güvence ile ilgilidir Bu tasarımın, kuruluşun para yerine kamu yararını gözetme misyonuna öncelik vermesi gerekiyor Sarah Silverman’ın OpenAI ve Meta’ya karşı açtığı dava pek iyi gitmiyor Bu anlatıya göre, organizasyonun gidişatı üzerinde nihai söz sahibi olması gereken yönetim kurulu, Altman’ın teknolojiyi ticarileştirme hızı konusunda endişelive onu aşırı bir önyargıyla kovmaya karar verdi

    Bu haftanın diğer başlıkları
    • Gerçekten kötü bir hafta geçiren diğer yapay zeka şirketi