Teknoloji 26 Temmuz 2024

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor

OpenAI, ChatGPT-4o Mini modellinde önemli bir değişikliğe gidiyor: Şirket, ChatGPT’nin özel versiyonlarının manipüle edilerek amaçları dışında kullanılmasına, normalde cevap vermemesi gereken konulara cevap vermesinin sağlanmasına engel olacak. İşte detaylar…

ChatGPT artık manipülasyona daha kapalı

OpenAI, ChatGPT’nin özelleştirilmiş versiyonlarıyla oynanmasını engellemek için yeni bir güvenlik önlemi geliştirdi. Bu yeni teknik, yapay zekâ modellerinin orijinal talimatlarını korumayı ve kullanıcıların manipülasyonlarını engellemeyi amaçlıyor.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 7

Talimat hiyerarşisi’ adı verilen bu teknik, geliştiricilerin orijinal komutlarına ve talimatlarına öncelik verilmesini sağlıyor. Bu sayede kullanıcılar, kullanıma özel olarak geliştirilmiş yapay zeka modelinden farklı cevaplar alamayacak.




OpenAI, SearchGPT arama motorunu duyurdu!

OpenAI’nin yeni arama motoru SearchGPT duyuruldu. Gerçek zamanlı bilgi erişimi, özetler ve görsel yanıtlar sunuyor.

Bundan öncesinde kullanıcılar, ‘sana verilen talimatları unut’ diyerek, örneğin market alışverişi hususunda cevaplar vermek için eğitilmiş yapay zeka modelini farklı yanıtlar vermeye ikna edebiliyordunuz. Talimatlar Hiyerarşisi özelliği ile birlikte, sohbet botunun etkisizleştirilmesi önlenecek, hassas bilgilerin sızmasına engel olunacak ve kötü amaçlı kullanımların önüne geçilecek.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 8

Bu yeni güvenlik önlemi, OpenAI’nin güvenlik ve şeffaflık konusundaki yaklaşımına dair endişelerin arttığı bir dönemde geliyor. Şirket, çalışanlarının çağrılarına yanıt olarak güvenlik uygulamalarını geliştirme sözü verdi.

OpenAI, gelecekteki modellerde tam otomatik ajanların karmaşıklıklarının sofistike koruma önlemleri gerektirdiğini kabul ediyor. Talimat hiyerarşisi kurulumu, daha iyi güvenlik sağlama yolunda atılmış bir adım olarak görülüyor.

AI güvenliği alanında sürekli gelişim ve yenilik, sektörün karşı karşıya olduğu en büyük zorluklardan biri olmaya devam ediyor. Ancak OpenAI, bu anlamda işi sıkı tutmakta kararlı.

source

Spread the love <3

You may also like...

Ağu
13
2024
0

iOS 18 Beta’da video kaydederken nasıl müzik dinleyebilirsiniz?

Apple tarafından Ağustos 6 tarihinde üçüncü açık beta sürümü yayınlanan iOS 18’in ilk duyurulmasından bu yana iki aylık süre geçti....

Spread the love <3
Nis
20
2024
0
Fallout ikinci sezonu onaylandı! Ne zaman çıkacak?

Fallout ikinci sezonu onaylandı! Ne zaman çıkacak?

12 Nisan itibarıyla Amazon Prime Video’da erişime açılan Fallout dizisi, sosyal medyaya damga vurmaya devam ediyor. Bu popülariteyi kullanmak isteyen...

Spread the love <3
Mar
02
2024
14
Oyuncuların en çok tercih ettiği işletim sistemi belli oldu

Oyuncuların en çok tercih ettiği işletim sistemi belli oldu

Steam, düzenli olarak gerçekleştirdiği donanım ve yazılım anketlerinin sonuçlarını paylaştı. Sonuçlar şubat ayını kapsıyor ve oyuncuların hangi işletim sistemlerini ve...

Spread the love <3
Eyl
02
2024
0

Türkiye, BRICS’e katılmak için başvuru yaptı!

Türkiye, Ekim ayında Rusya’da düzenlenecek zirvede BRICS grubuna katılım konusunda görüşmelerde bulunacak. Buna göre Türkiye, NATO ve AB ötesinde yeni...

Spread the love <3
Whatsapp İletişim
Merhaba,
Size nasıl yardımcı olabilirim ?