Teknoloji 26 Temmuz 2024

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor

OpenAI, ChatGPT-4o Mini modellinde önemli bir değişikliğe gidiyor: Şirket, ChatGPT’nin özel versiyonlarının manipüle edilerek amaçları dışında kullanılmasına, normalde cevap vermemesi gereken konulara cevap vermesinin sağlanmasına engel olacak. İşte detaylar…

ChatGPT artık manipülasyona daha kapalı

OpenAI, ChatGPT’nin özelleştirilmiş versiyonlarıyla oynanmasını engellemek için yeni bir güvenlik önlemi geliştirdi. Bu yeni teknik, yapay zekâ modellerinin orijinal talimatlarını korumayı ve kullanıcıların manipülasyonlarını engellemeyi amaçlıyor.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 7

Talimat hiyerarşisi’ adı verilen bu teknik, geliştiricilerin orijinal komutlarına ve talimatlarına öncelik verilmesini sağlıyor. Bu sayede kullanıcılar, kullanıma özel olarak geliştirilmiş yapay zeka modelinden farklı cevaplar alamayacak.




OpenAI, SearchGPT arama motorunu duyurdu!

OpenAI’nin yeni arama motoru SearchGPT duyuruldu. Gerçek zamanlı bilgi erişimi, özetler ve görsel yanıtlar sunuyor.

Bundan öncesinde kullanıcılar, ‘sana verilen talimatları unut’ diyerek, örneğin market alışverişi hususunda cevaplar vermek için eğitilmiş yapay zeka modelini farklı yanıtlar vermeye ikna edebiliyordunuz. Talimatlar Hiyerarşisi özelliği ile birlikte, sohbet botunun etkisizleştirilmesi önlenecek, hassas bilgilerin sızmasına engel olunacak ve kötü amaçlı kullanımların önüne geçilecek.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 8

Bu yeni güvenlik önlemi, OpenAI’nin güvenlik ve şeffaflık konusundaki yaklaşımına dair endişelerin arttığı bir dönemde geliyor. Şirket, çalışanlarının çağrılarına yanıt olarak güvenlik uygulamalarını geliştirme sözü verdi.

OpenAI, gelecekteki modellerde tam otomatik ajanların karmaşıklıklarının sofistike koruma önlemleri gerektirdiğini kabul ediyor. Talimat hiyerarşisi kurulumu, daha iyi güvenlik sağlama yolunda atılmış bir adım olarak görülüyor.

AI güvenliği alanında sürekli gelişim ve yenilik, sektörün karşı karşıya olduğu en büyük zorluklardan biri olmaya devam ediyor. Ancak OpenAI, bu anlamda işi sıkı tutmakta kararlı.

source

Spread the love <3

You may also like...

Eyl
13
2024
0

AirPods Pro artık sadece bir kulaklık değil! İşte sebebi

Apple, AirPods Pro kulaklıklarını bambaşka bir seviyeye taşıdı. Amerika Birleşik Devletleri Gıda ve İlaç Dairesi (FDA), AirPods Pro’nun belirli modellerinde...

Spread the love <3
Nis
23
2024
0
Dokuzuncu gezegen ortaya çıkmış olabilir!

Dokuzuncu gezegen ortaya çıkmış olabilir!

Ortaya çıkan son sızıntılar, güneş sisteminde dokuzuncu bir gezegen olduğu iddialarını kuvvetlendirdi. Uzay boşluğunda henüz tanımlayamadıkları bir cisme rastladıklarını belirten...

Spread the love <3
Eki
08
2024
0

Teknofest’te yapay zeka şöleni! Hepsiburada’nın planları neler?

Türkiye’nin en büyük teknoloji ve havacılık festivali olan Teknofest, bu yıl da teknoloji meraklılarını ve sektörün lider şirketlerini bir araya...

Spread the love <3
Kas
10
2024
0

Henüz iPhone 17 serisi çıkmadı! iPhone 18 Pro kamera özelliği sızdı!

iPhone 16’nın kullanıcılar tarafından çok sevilmemesinin ardından Apple, iPhone 17’nin ve hatta iPhone 18’in dosyasını erkenden açmaya başladı. Geçtiğimiz günlerde...

Spread the love <3
Whatsapp İletişim
Merhaba,
Size nasıl yardımcı olabilirim ?