Teknoloji 26 Temmuz 2024

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor

OpenAI, ChatGPT-4o Mini modellinde önemli bir değişikliğe gidiyor: Şirket, ChatGPT’nin özel versiyonlarının manipüle edilerek amaçları dışında kullanılmasına, normalde cevap vermemesi gereken konulara cevap vermesinin sağlanmasına engel olacak. İşte detaylar…

ChatGPT artık manipülasyona daha kapalı

OpenAI, ChatGPT’nin özelleştirilmiş versiyonlarıyla oynanmasını engellemek için yeni bir güvenlik önlemi geliştirdi. Bu yeni teknik, yapay zekâ modellerinin orijinal talimatlarını korumayı ve kullanıcıların manipülasyonlarını engellemeyi amaçlıyor.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 7

Talimat hiyerarşisi’ adı verilen bu teknik, geliştiricilerin orijinal komutlarına ve talimatlarına öncelik verilmesini sağlıyor. Bu sayede kullanıcılar, kullanıma özel olarak geliştirilmiş yapay zeka modelinden farklı cevaplar alamayacak.




OpenAI, SearchGPT arama motorunu duyurdu!

OpenAI’nin yeni arama motoru SearchGPT duyuruldu. Gerçek zamanlı bilgi erişimi, özetler ve görsel yanıtlar sunuyor.

Bundan öncesinde kullanıcılar, ‘sana verilen talimatları unut’ diyerek, örneğin market alışverişi hususunda cevaplar vermek için eğitilmiş yapay zeka modelini farklı yanıtlar vermeye ikna edebiliyordunuz. Talimatlar Hiyerarşisi özelliği ile birlikte, sohbet botunun etkisizleştirilmesi önlenecek, hassas bilgilerin sızmasına engel olunacak ve kötü amaçlı kullanımların önüne geçilecek.

OpenAI, ChatGPT’yi manipüle etmenizin önüne geçiyor 8

Bu yeni güvenlik önlemi, OpenAI’nin güvenlik ve şeffaflık konusundaki yaklaşımına dair endişelerin arttığı bir dönemde geliyor. Şirket, çalışanlarının çağrılarına yanıt olarak güvenlik uygulamalarını geliştirme sözü verdi.

OpenAI, gelecekteki modellerde tam otomatik ajanların karmaşıklıklarının sofistike koruma önlemleri gerektirdiğini kabul ediyor. Talimat hiyerarşisi kurulumu, daha iyi güvenlik sağlama yolunda atılmış bir adım olarak görülüyor.

AI güvenliği alanında sürekli gelişim ve yenilik, sektörün karşı karşıya olduğu en büyük zorluklardan biri olmaya devam ediyor. Ancak OpenAI, bu anlamda işi sıkı tutmakta kararlı.

source

Spread the love <3

You may also like...

Ağu
10
2024
0

Huawei’nin üçe katlanan yeni akıllı telefonu canlı kanlı görüntülendi!

Birkaç yıl önce hayatımıza giren katlanır telefonlar, artık görüldüğünde çok da yabancı gelmiyor. Ancak Huawei’nin ürettiği bu yeni model, herkesin...

Spread the love <3
Eki
25
2024
0

WhatsApp’tan emoji tepkileri için aylardır beklenen dokunuş geldi

WhatsApp yeni özellikler ile karşımıza çıkmaya devam ediyor. Meta’nın mesajlaşma uygulaması, Android kullanıcıları için yayınladığı yeni Beta güncellemesinde, kullanıcıların aylardır...

Spread the love <3
May
17
2024
0
Spoor uses AI to save birds from wind turbines

Spoor uses AI to save birds from wind turbines

Wind is the largest source of renewable energy in the U.S., according to the U.S. Energy Information Administration, but wind...

Spread the love <3
May
06
2024
0
Women in AI: Catherine Breslin helps companies develop AI strategies

Women in AI: Catherine Breslin helps companies develop AI strategies

To give AI-focused women academics and others their well-deserved — and overdue — time in the spotlight, TechCrunch has been...

Spread the love <3
Whatsapp İletişim
Merhaba,
Size nasıl yardımcı olabilirim ?