Teknoloji 26 Temmuz 2024

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor

OpenAI, ChatGPT-4o Mini modellinde önemli bir değişikliğe gidiyor: Şirket, ChatGPT’nin özel versiyonlarının manipüle edilerek amaçları dışında kullanılmasına, normalde cevap vermemesi gereken konulara cevap vermesinin sağlanmasına engel olacak. İşte detaylar…

ChatGPT artık manipülasyona daha kapalı

OpenAI, ChatGPT’nin özelleştirilmiş versiyonlarıyla oynanmasını engellemek için yeni bir güvenlik önlemi geliştirdi. Bu yeni teknik, yapay zekâ modellerinin orijinal talimatlarını korumayı ve kullanıcıların manipülasyonlarını engellemeyi amaçlıyor.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 7

Talimat hiyerarşisi’ adı verilen bu teknik, geliştiricilerin orijinal komutlarına ve talimatlarına öncelik verilmesini sağlıyor. Bu sayede kullanıcılar, kullanıma özel olarak geliştirilmiş yapay zeka modelinden farklı cevaplar alamayacak.




OpenAI, SearchGPT arama motorunu duyurdu!

OpenAI’nin yeni arama motoru SearchGPT duyuruldu. Gerçek zamanlı bilgi erişimi, özetler ve görsel yanıtlar sunuyor.

Bundan öncesinde kullanıcılar, ‘sana verilen talimatları unut’ diyerek, örneğin market alışverişi hususunda cevaplar vermek için eğitilmiş yapay zeka modelini farklı yanıtlar vermeye ikna edebiliyordunuz. Talimatlar Hiyerarşisi özelliği ile birlikte, sohbet botunun etkisizleştirilmesi önlenecek, hassas bilgilerin sızmasına engel olunacak ve kötü amaçlı kullanımların önüne geçilecek.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 8

Bu yeni güvenlik önlemi, OpenAI’nin güvenlik ve şeffaflık konusundaki yaklaşımına dair endişelerin arttığı bir dönemde geliyor. Şirket, çalışanlarının çağrılarına yanıt olarak güvenlik uygulamalarını geliştirme sözü verdi.

OpenAI, gelecekteki modellerde tam otomatik ajanların karmaşıklıklarının sofistike koruma önlemleri gerektirdiğini kabul ediyor. Talimat hiyerarşisi kurulumu, daha iyi güvenlik sağlama yolunda atılmış bir adım olarak görülüyor.

AI güvenliği alanında sürekli gelişim ve yenilik, sektörün karşı karşıya olduğu en büyük zorluklardan biri olmaya devam ediyor. Ancak OpenAI, bu anlamda işi sıkı tutmakta kararlı.

source

Spread the love <3

You may also like...

Kas
02
2024
0

Samsung’un Apple Vision Pro’ya rakip XR cihazı için geri sayım!

Samsung, 2025 yılına damga vuracak yeni nesil Genişletilmiş Gerçeklik (XR) cihazlarını tanıtmayı planlıyor. Cihaz, özellikle Apple’ın amiral gemisi Vision Pro...

Spread the love <3
Eyl
29
2024
0

Bakan, yeni Togg T10F’i test etti!

Türkiye’nin yerli otomobil markası Togg, önümüzdeki yıl sedan sınıfında yeni bir model ile karşımıza çıkacak. Sanayi ve Teknoloji Bakanı Mehmet...

Spread the love <3
Mar
18
2024
11
&#039;Noon against Putin&#039;, Molotov cocktails and dye in ballot boxes - how Russians protested the election

'Noon against Putin', Molotov cocktails and dye in ballot boxes – how Russians protested the election

Across three days of voting there have been scattered incidents of Russians defying authorities in acts of protest against Vladimir...

Spread the love <3

Rainbow Six Siege, yeni oyun motoru alacak mı?

Uzun yıllardır büyük bir beğeniyle oynanan aksiyon oyunu Rainbow Six Siege, oyun motoru hakkındaki iddialarla yine gündemde. Geçtiğimiz günlerde, oyunun...

Spread the love <3
Whatsapp İletişim
Merhaba,
Size nasıl yardımcı olabilirim ?