Uzmanından kritik altyapılarda yapay zeka tehlikesine karşı uyarı!

Yapay zeka, iş gücünü tehdit ediyor!

Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almanın değerine işaret eden uzmanlar, otomasyon ve yapay zekanın, belli dallarda işsizliğe neden olabileceğini söylüyor.

Yapay zeka sistemleri kritik altyapıya daha fazla entegre hayli, siber akın ve berbat niyetli kullanım riskinin de arttığını vurgulayan Prof. Dr. Burhan Pektaş, “Kişisel bilgilerinizi toplumsal medyada ve öbür çevrimiçi platformlarda paylaşma konusunda dikkatli olun.” ikazında bulundu. 

Üsküdar Üniversitesi Mühendislik ve Tabiat Bilimleri Fakültesi (MDBF) Dekan Yardımcısı, Bilgisayar Mühendisliği (İng) Kısmı Lideri Prof. Dr. Burhan Pektaş, yapay zeka ve bilişim kabahatleri konusunu kıymetlendirdi.

Yapay zekanın gelecekteki gelişimi belirsiz…

Yapay zekanın (AI) gelecekteki gelişiminin epeyce meçhul olduğunu söz eden Prof. Dr. Burhan Pektaş, şunları lisana getirdi:

“Ancak bilim topluluğunun yapay zekanın geleceğini tartışırken dikkate aldığı çeşitli eğilimler ve potansiyel senaryolar var. Örnek vermek gerekirse; yapay zekanın vakitle daha karmaşık ve yetenekli hale gelmesi mümkündür. Makine tahsili, hudut ağları ve başka yapay zeka teknolojilerindeki ilerlemeler, karmaşık misyonları daha yüksek verimlilik ve doğrulukla gerçekleştirebilen sistemlere yol açabilir.”

Gizlilik sıkıntıları ve muhtemel berbata kullanımla ilgili telaşlar var!

Yapay zeka teknolojileri ilerledikçe etik konular, zımnilik sıkıntıları ve muhtemel berbata kullanımla ilgili telaşlar ve tartışmaların artacağına da işaret eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemlerinin sorumlu bir formda geliştirilmesini ve konuşlandırılmasını sağlamak için bilim topluluğunun ve siyaset yapıcıların bu zorlukları ele alması gerekecektir. Yapay zekanın sıhhat ve eğitimden ulaşım ve cümbüşe kadar günlük hayatın çeşitli istikametlerine daha fazla entegre olması bekleniyor. Bu entegrasyon, verimliliğin ve rahatlığın artmasını sağlayabilir lakin birebir vakitte toplumsal tesirler ve işten çıkarmalarla ilgili soruları da gündeme getirir.” dedi.

Yapay zeka işsizliğe neden olabilir mi?

Yapay zekanın pek çok yarar sağlama potansiyeline sahipken tıpkı vakitte telaşları ve potansiyel riskleri de beraberinde getirdiğini anlatan Prof. Dr. Burhan Pektaş, şunları lisana getirdi:

“Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almak kıymetlidir. Otomasyon ve yapay zeka, muhakkak dallarda işlerin yerinden edilmesine yol açarak potansiyel olarak ekonomik aksamalara ve işsizliğe neden olabilir. Bu kıymetli bir kaygı kaynağıdır ve işgücüne tekrar marifet kazandırma ve yeni iş fırsatları yaratma eforları hayati değer taşıyacaktır.

Yapay zeka sistemleri, kendilerini eğitmek için kullanılan bilgilerde mevcut olan önyargıları devralabilir ve bu da adil olmayan yahut ayrımcı sonuçlara yol açabilir. Düzgün bir biçimde ele alınmazsa, bu önyargı mevcut toplumsal eşitsizlikleri güçlendirebilir ve işe alma, borç verme ve ceza adaleti üzere alanlarda adil olmayan muameleye yol açabilir. 

Yapay zeka sistemleri kritik altyapıya daha fazla entegre hayli, siber hücum ve makûs niyetli kullanım riski de artıyor. Bilgisayar korsanları, dataları manipüle etmek, hizmetleri kesintiye uğratmak ve hatta otonom araçlar yahut endüstriyel sistemler kelam konusu olduğunda fizikî ziyana neden olmak için yapay zeka sistemlerindeki güvenlik açıklarından yararlanabilir.”

Yapay zeka siber güvenlik savunmalarını geliştirmek için güçlü bir araç olabilir

Yapay zeka (AI) teknolojilerinin siber güvenlik üzerinde ikili bir tesirinin olduğunu lisana getiren Prof. Dr. Burhan Pektaş, “Yapay zeka, bir yandan siber güvenlik savunmalarını geliştirmek, tehdit algılamayı otomatikleştirmek ve olaylara müdahaleyi güzelleştirmek için güçlü bir araç olabilir. Öte yandan siber hatalılar, daha karmaşık ve maksada yönelik akınlar geliştirmek için yapay zekadan potansiyel olarak yararlanabilirler.” dedi.

Prof. Dr. Burhan Pektaş, yapay zekanın siber güvenliği ve siber kabahatleri etkileme yollarından kimilerini şöyle sıraladı:

“Hedefli taarruzlar: Siber hatalılar, son derece şahsileştirilmiş ve ikna edici içeriğe sahip maksat odaklı kimlik avı kampanyaları üzere daha karmaşık ve gayeli taarruzlar gerçekleştirmek için potansiyel olarak yapay zekayı kullanabilir.

Otomatik suistimaller: Yapay zeka, güvenlik açıklarını belirleme ve bunlardan yararlanma sürecini otomatikleştirerek saldırganların operasyonlarını ölçeklendirmesini kolaylaştırabilir.”

Yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanılabilir

Saldırganların, tespit sistemlerinden kaçabilecek rakip girdiler sunarak yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanabileceğini anlatan Prof. Dr. Burhan Pektaş, “Siber hatalılar, güvenlik sistemleri tarafından kullanılan savunma sistemlerini incelemek ve bunlara ahenk sağlamak için yapay zekayı kullanabilir, bu da onların taktiklerini varsayım etmeyi ve bunlara karşı koymayı daha sıkıntı hale getirebilir.” dedi. 

Sahte içerik oluşturma…

Prof. Dr. Burhan Pektaş, yapay zeka tarafından oluşturulan deepfake (sahte) içeriklerin bireyleri yahut kuruluşları aldatmak için gerçekçi görünen lakin uydurma sesli yahut manzaralı iletiler oluşturarak toplumsal mühendislik atakları için kullanılabileceğini kaydederek, “Yapay zekanın evrimi, siber tehditlere yeni boyutlar kazandırarak saldırganların yapay zekayı makus maksatlarla kullanma potansiyeline sahip olmasını sağladı.” diye konuştu. 

Siber taarruz için kimlik avı e-postaları oluşturulabilir 

Saldırganların siber taarruzlarını geliştirmek için yapay zekayı berbata kullanabileceği çeşitli yollar olduğunu da söz eden Prof. Dr. Burhan Pektaş, “Saldırganlar, yüksek seviyede amaca yönelik ve ikna edici kimlik avı e-postaları oluşturmak emeliyle büyük bilgi kümelerini ve toplumsal medya profillerini tahlil etmek için yapay zekayı kullanabilir. Bu, bireylerin yasal ve makûs niyetli iletileri ayırt etmesini zorlaştırır.” dedi.

Hedefteki kişi kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturabilir

Yapay zekanın, klasik imza tabanlı antivirüs tahlillerinden kaçmak için kodunu ve görünümünü dinamik olarak değiştirebilen, çok biçimli, makûs maksatlı yazılım oluşturmak için kullanılabileceğini de kaydeden Prof. Dr. Burhan Pektaş, “Yapay zeka algoritmaları, makus gayeli yazılım çeşitlerinin oluşturulmasını otomatik hale getirebilir, bu da güvenlik sistemlerinin tehditlerin hacmine ve çeşitliliğine ayak uydurmasını zorlaştırır. Saldırganlar, yasal bireylerin kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturmak için yapay zeka tarafından oluşturulan deepfake teknolojisini kullanabilir. Bu, toplumsal mühendislik hücumları yahut yanlış bilgi yaymak için kullanılabilir.”

Yapay zeka dayanaklı sohbet robotlar kamuoyunu manipüle etmek için kullanılabilir

Yapay zeka takviyeli sohbet robotları yahut toplumsal botların, çevrimiçi etkileşimlerde insan davranışını taklit etmek, dezenformasyon yaymak, toplumsal mühendislik akınları gerçekleştirmek yahut kamuoyunu manipüle etmek için kullanılabileceğini de anlatan Prof. Dr. Burhan Pektaş, “Saldırganlar, güvenlik emeliyle kullanılan yapay zeka modellerinin eğitim bilgilerini manipüle etmeye çalışabilir.” diye bilgi verdi.

Kişisel dataların güvenliği

Yapay zekanın, ferdî data güvenliği üzerinde kıymetli bir tesirinin var olduğunu, etik ve kapalılık tasalarının da ortaya çıktığını söz eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemleri eğitim için çoklukla kapsamlı data kümelerine dayanır. Bu data kümeleri hassas şahsî bilgiler içerdiğinde etik dert ortaya çıkıyor ve data toplamanın kapsamı ve gerekliliği hakkında sorular ortaya çıkıyor. Etik uygulamalar, bireylerin ferdî bilgilerini toplamadan ve işlemeden evvel aydınlatılmış onamlarının alınmasını içerir. Bilgilerin nasıl kullanılacağını açıklamanın şeffaflığı çok değerlidir.” dedi.

Bilişim hatalarına karşı korunmak için bireyler ve kurumlar neler yapabilir?

Siber cürümlere karşı müdafaanın, proaktif tedbirlerin, güvenlik uygulamalarının ve daima dikkatin bir kombinasyonunu içerdiğini kaydeden Prof. Dr. Burhan Pektaş, siber güvenliğin artırılmasına yönelik hem bireylere hem de kurumlara yönelik tekliflerini şöyle sıraladı: 

Güçlü ve eşsiz şifreler kullanın: Karmaşık şifreler oluşturun ve tıpkı şifreyi birden fazla hesapta kullanmaktan kaçının. Güçlü, eşsiz şifreler oluşturmak ve saklamak için bir şifre yöneticisi kullanmayı düşünün.

Çok faktörlü kimlik doğrulamayı (MFA) etkinleştir: Parolaların ötesinde ekstra bir güvenlik katmanı eklemek için mümkün olan her yerde MFA’yı uygulayın.

Yazılımı yeni tutun: Güvenlik açıklarını düzeltmek ve güvenliği artırmak için işletim sistemlerini, yazılımları ve uygulamaları nizamlı olarak güncelleyin.

E-postalara karşı dikkatli olun: Şüpheli temaslara tıklamaktan yahut bilinmeyen kaynaklardan ekleri indirmekten kaçının. E-postaların, bilhassa de hassas bilgiler isteyen e-postaların meşruiyetini doğrulayın.

Güvenli Wi-Fi ağlarını kullanın: Ev Wi-Fi ağlarını güçlü parolalar ve şifrelemeyle koruyun. VPN kullanmadığınız sürece hassas süreçler için halka açık Wi-Fi kullanmaktan kaçının.

Güvenlik yazılımını kurun ve güncelleyin: Saygın bir antivirüs ve makus hedefli yazılımdan muhafaza yazılımı yükleyin ve şimdiki tutun.

Önemli dataları yedekleyin: Kritik bilgileri nizamlı olarak harici bir aygıta yahut inançlı bir bulut hizmetine yedekleyin.

Haberdar olun: Saygın kaynaklar aracılığıyla aktüel siber tehditler ve en düzgün güvenlik uygulamaları hakkında yeni bilgilere sahip olun.

Kişisel bilgi paylaşımını sınırlayın: Kişisel bilgilerinizi toplumsal medyada ve öteki çevrimiçi platformlarda paylaşma konusunda dikkatli olun

Kaynak: (BYZHA) Beyaz Haber Ajansı

Ankara Gündem Haber

See Full Bio