BİLİM BİLİŞİM * ChatGPT kim olduğunuzu ve ne istediğinizi hatırlayacak

ChatGPT kim olduğunuzu ve ne istediğinizi hatırlayacak

Düzenleyicilerin, şirketin veri toplama uygulamalarıyla ilgili endişe duyduğu Birleşik Krallık ve Avrupa Birliği’nde bu özellik mevcut değil

Andrew Griffin – Cumartesi 22 Temmuz 2023

OpenAI sisteme kim olduğunuzu ve ne istediğinizi bildirmeyi amaçlayan, ChatGPT’deki yeni “özel talimatları” kullanıma sundu. Şirket bu aracın, kullanıcıların “ChatGPT’nin yanıt verirken dikkate almasını istediği her şeyi paylaşmasına” olanak tanıdığını belirtti.

Bu mesela sohbet botunun, her zaman konuşmalara küçük çocukların öğretmeni olduğunuzu bilerek başlaması ve böylece yanıtlarını buna göre ifade edebileceği anlamına gelebilir. Ya da bir kullanıcı belirli bir dilde bilgisayar programcısı olduğuna dair bir talimat verirse, yapay zeka aracı yanıtlarını nasıl şekillendireceğini bilebilir.

Sohbet botunun kendisine yönelik, daha spesifik talimatlar da verilebilir. Örneğin kullanıcılar sohbet botuna, yanıtlarında nasıl bir ton kullanacağını veya kelime sınırına uymasını söylemeyi tercih edebilir.

Yeni araç, verilerin kullanılma şekline dair bir dizi uyarıyla birlikte geliyor. Örneğin herhangi bir eklentinin geliştiricileriyle paylaşılabilen bu talimatları, OpenAI da toplayıp kullanacak.

Şirket kullanıcıların özel talimatlarını, “talimatlara verdiği tepkileri aşırıya kaçmadan nasıl uyarlayacağını modele öğretmek gibi, modelin performansını artırmak için kullanacağını” belirtiyor.

Araç kullanıcıların bu özelliği, ChatGPT’nin kurallarını çiğnemek için kullanmamasını sağlamayı amaçlayan bazı kısıtlamalarla birlikte geliyor. Bu kısıtlamalar arasında, kullanıcıların şirketin kurallarını ihlal etmediğinden emin olmak adına özel talimatları taramak ve şirket politikalarını ihlal etmek için kullanılacak talimatlara, ChatGPT’nin uymamasını sağlamak yer alıyor.

OpenAI bu yeni özelliği Birleşik Krallık ve Avrupa Birliği’nde kullanıma sunmuyor. Bu ülkelerdeki düzenleyiciler, verilerin OpenAI tarafından kullanılma biçimiyle ilgili belirli endişeleri olduğunu gösterirken İtalya’da bu endişeler, ülkenin ChatGPT’ye erişimi yasaklamasına kadar vardı.

Kullanıcıların OpenAI’ın “Plus” premium versiyonuna da abone olması gerekiyor ve bu halihazırda yalnızca beta sürümünde mevcut. Şirket “yakında” bunu herkese sunmayı planladığını belirtiyor.

Halihazırda ChatGPT, önceki konuşmalardan hiçbir şey hatırlamıyor. Daha önceki öğretmen ve programcı örneklerindeki gibi, örneğin bir kişi ChatGPT’ye yararlı bilgiler vermiş olabilir fakat sohbet kapatılıp yeniden başlatılınca bu bilgiler kayboluyor.

Ayarlara tıkladıktan sonra “beta özellikler” veya “yeni özelliklere” tıklayarak ve “özel talimatları” etkinleştirerek bu özellik kullanılabilir.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe’nin editöryal politikasını yansıtmayabilir.

https://www.independent.co.uk/tech
Independent Türkçe için çeviren: Onur Bayrakçeken

ChatGPT’nin yaratıcısı, yapay zekayı durdurmanın imkansız olduğunu söylüyor

Anthony Cuthbertson @ADCuthbertson
Perşembe 25 Mayıs 2023

ChatGPT’nin arkasındaki yapay zeka firması OpenAI, insanları aşan yapay zekanın gelişinin kaçınılmaz olduğu uyarısını yaptı. OpenAI’ın patronu Sam Altman, insanı yenen yapay zekanın “yaratılmasını durdurmanın mantıksız bir şekilde riskli ve zor” olduğunu söylüyor

Filozoflar ve akademisyenler süper zeka olarak da bilinen yapay genel zeka üzerine onlarca yıldır teoriler geliştirse de OpenAI’ın üst düzey yetkilileri, son yıllardaki hızlı ilerlemelerin artık bunun eşiğinde olabileceğimiz anlamına geldiği uyarısında bulundu.

Çarşamba günü yayımlanan bir blog yazısında OpenAI’dan Sam Altman, Greg Brockman ve Ilya Sutskever, yapay zeka süper zekasının gücünün hem olumlu hem de olumsuz anlamda eşsiz olacağını söyledi.

Yazıda, “Şu anda gördüğümüz tablo göz önüne alındığında, gelecek on yıl içinde yapay zeka sistemlerinin çoğu alanda uzman beceri düzeyini aşacağı ve günümüzün en büyük şirketlerinden biri kadar üretken faaliyet yürüteceği düşünülebilir” ifadeleri yer aldı.

Hem potansiyel artıları hem de eksileri açısından süper zeka, insanlığın geçmişte mücadele etmek zorunda kaldığı diğer teknolojilerden daha güçlü olacak.

OpenAI, insanlığın süper zekanın gelişiyle başa çıkabilmesi için üç yol ortaya koyarken, kanun yapıcılara ve düzenleyicilere bunu durdurmaya çalışmamaları uyarısı yaptı.

Yazıda, “Süper zekanın yaratılmasını durdurmanın mantıksız bir şekilde riskli ve zor olacağına inanıyoruz” uyarısında bulunuldu.

Avantajlar çok büyük olduğundan, onu inşa etmenin maliyeti her yıl azaldığından, onu inşa eden aktörlerin sayısı hızla arttığından ve doğası gereği içinde bulunduğumuz teknolojik yolun bir parçası olduğundan, onu durdurmak küresel gözetim rejimi gibi bir şey gerektirecek ve bunun bile işe yarayacağı kesin değil. Dolayısıyla bu işi doğru yapmak zorundayız.

Altman, geçen hafta ABD’li senatörlerin gelişmiş yapay zekanın yarattığı risklerle ilgili sorularını yanıtlamak üzere bir kongre oturumuna katıldı.

38 yaşındaki Altman, Senato Adalet Komisyonu’na bağlı Gizlilik, Teknoloji ve Hukuk Alt Komitesine, ChatGPT gibi yapay zeka destekli sohbet botlarının “önemli bir endişe konusu” olduğuna ve kötüye kullanımı önlemek için kurallar ve yönergeler gerektirdiğine inandığını söyledi.

Demokrat Senatör Cory Booker, “Ok yaydan çıktı. Küresel bir patlama yaşanıyor” diye belirtti.

Altman, seçim manipülasyonu gibi yapay zeka zararlarını önlemenin muhtemel bir yolunun, yapay zekanın geliştirilmesi için lisanslama ve test gereklilikleri getirmek olacağını söyledi.

OpenAI’ya göre bir olasılık, ABD’de Yapay Zeka Güvenliği ve Altyapı Emniyeti Bürosu (Office for AI Safety and Infrastructure Security/Oasis) adında bir yapay zeka lisanslama kurumunun oluşturulması.

https://www.independent.co.uk/tech
Independent Türkçe için çeviren: İpek Uyar