ALEXANDER FRANK / DEPUTY DIRECTOR GENERAL, CONFEDERATION of EUROPEAN SECURITY SERVICES (CoESS)

Artificial Intelligence (AI) and Its Impact on the Security Services Industry: The CoESS Charter on the Ethical and Responsible Use of AI

What are the most promising AI applications in the security services sector? Which principles should guide the use of AI in the security industry? And what concrete steps should security companies take now to responsibly integrate AI in their business operations? These questions lie at the heart of the Charter published by the Confederation of European Security Services (CoESS), which addresses the ethical and responsible use of AI in Europe’s security services industry.

Many of us have already used AI applications in our private or professional lives - whether through so-called “large language models,” virtual assistants, or smart home devices. But these are only the tip of the iceberg. AI is no longer just a concept of the future, including in the security industry: its integration into security services will play an important role in the ongoing transformation of our sector. Companies are well advised to prepare for this and be ahead of the curve - especially in light of the European Union’s AI Act adopted in 2024.

AI in the Security Services Industry

AI systems can be used in many different applications across the security services sector, offering benefits to companies, employees, clients, and public security:

• Risk analysis solutions can process massive amounts of data from existing security infrastructures, such as surveillance cameras, and provide concrete insights, recommendations for improvement, and “security services by design.”

• Biometric verification systems can significantly increase the effectiveness and efficiency of access control, particularly in sensitive environments such as critical infrastructure.

• AI-enabled alarm systems and cameras can help distinguish real alarms from false ones at alarm receiving centers or support behaviour detection.

• So-called “APIDS” (Automatic Prohibited Item Detection Systems) can identify banned objects in aviation security using the images and data they have been trained on.

• Algorithmic management systems in the workplace can support task allocation and staffing - especially in companies with a large workforce.

The benefits of AI hold enormous potential to transform long-term security concepts, strengthen corporate resilience, make the tasks of security personnel safer, and ultimately make security services more effective and efficient.

However, this transformation also raises important compliance questions and challenges related to the responsible and ethical use of AI in the security sector. The CoESS Charter - developed under the guidance of industry experts and available at www.coess.eu - aims to help security companies understand not only the EU AI Act but also other essential requirements for integrating AI systems into services and operations responsibly and ethically, going beyond mere compliance with EU regulations. It describes various AI use cases and their opportunities, while also highlighting key risks and defining recommendations that companies should follow to mitigate these risks while making full use of technological benefits.

Risks associated with the use of AI in the Security Industry

Risk management is a central theme. The CoESS Charter lists numerous risks and recommends that companies thoroughly examine five key risk drivers, which often reinforce each other and must be addressed holistically, both before and during the use of AI:
• Lack of careful risk management processes
• Use of untrustworthy or biased datasets
• Insufficient human oversight
• Insufficient physical and cyber resilience of the AI system
• Lack of AI governance frameworks within the company

These drivers can manifest in many different material and immaterial risks, depending on the specific application. To balance the potential of AI with its associated risks, the CoESS Charter encourages companies to carefully assess the ethical, legal, societal, and security-related implications of each AI deployment and to anchor these within an AI governance framework.

The EU AI Act

This is also important for companies providing security services or selling AI products in the EU for strictly legal reasons. The European Union’s “EU AI Act,” adopted in 2024, outlines, among others, regulations for so-called “high-risk AI” and introduces major new compliance requirements for companies. Most of these rules will apply no earlier than August 2026 (although the European Commission recently proposed postponing this deadline). However, some prohibitions and training requirements for staff using AI have already been in force since February 2025.

For compliance, it is essential that security companies recognize when they are using AI in their services or internal operations. They must be able to distinguish between low-risk and high-risk systems and applications, and fully understand the implications and requirements of the EU AI Act or similar applicable law in other countries.

What companies should do now: AI governance and staff training

In its Charter, CoESS recommends that companies planning to integrate AI into their operations establish an AI governance framework and ensure that staff responsible for using AI receive appropriate training.

An AI governance framework is a crucial first step to ensuring ethical and responsible AI use. It should include:

• Creation of an AI governance team, with defined responsibilities and processes
• Analysis of the need for AI systems, associated risks, and legal requirements
• Cost-benefit assessment (do the advantages outweigh risks and compliance obligations?), including possible legal reviews by third parties
• Due diligence in system procurement and creation of competency frameworks
• Transparency measures for employees
• Implementation of legally required measures where applicable
• Continuous engagement and information exchange with associations, authorities, and actors across the value chain
Developing a competency framework and providing targeted staff training are essential components of AI governance - and are now also a legal requirement in the EU. Such a framework should include:
• An internal code of conduct
• Analysis of the AI systems used, the users and business departments involved, and the competencies required
• Competency assessments for employees
• Training programs tailored to departments, roles, and use cases
• Content covering technical (including security-related), ethical, and legal aspects
• Continuous review and updating of the competency framework

The CoESS Charter is designed to support security companies in taking first steps in this complex and demanding process, for example by helping them understand risk-levels in AI systems and use cases. Based on the legal requirements of the EU AI Act, it offers practical recommendations for the use of AI - including a checklist to ensure that companies approach AI integration responsibly and effectively.

Importantly, the document goes far beyond merely ticking compliance boxes: it promotes a human-centered approach to AI innovation, grounded in a set of core values outlined in the Charter. The Charter can be downloaded at www.coess.eu

Yapay Zekâ (AI) ve Güvenlik Hizmetleri Sektörüne Etkisi:

Güvenlik Hizmetleri Sektöründe Yapay Zekânın Etik ve Sorumlu Kullanımına İlişkin CoESS Şartı

Alexander Frank
Avrupa Güvenlik Hizmetleri Konfederasyonu (CoESS)
Genel Müdür Yardımcısı

Güvenlik hizmetleri sektöründe yapay zekânın en umut vadeden uygulamaları nelerdir? Yapay zekânın güvenlik sektöründe kullanımına hangi ilkeler rehberlik etmelidir? Ve güvenlik şirketleri, yapay zekâyı iş süreçlerine sorumlu bir şekilde entegre edebilmek için bugün hangi somut adımları atmalıdır? Bu sorular, Avrupa Güvenlik Hizmetleri Konfederasyonu (CoESS) tarafından yayımlanan ve Avrupa’daki güvenlik hizmetleri sektöründe yapay zekânın etik ve sorumlu kullanımını ele alan Şart’ın merkezinde yer almaktadır.

Birçoğumuz, özel veya profesyonel hayatımızda hâlihazırda yapay zekâ uygulamalarını kullanmış durumdayız — ister “büyük dil modelleri”, ister sanal asistanlar ya da akıllı ev cihazları aracılığıyla olsun. Ancak bunlar, buzdağının yalnızca görünen kısmını oluşturmaktadır. Yapay zekâ, güvenlik sektörü de dâhil olmak üzere, artık yalnızca geleceğe ait bir kavram değildir: güvenlik hizmetlerine entegrasyonu, sektörümüzün devam eden dönüşümünde önemli bir rol oynayacaktır. Şirketlerin, özellikle 2024 yılında kabul edilen Avrupa Birliği Yapay Zekâ Tüzüğü (AI Act) ışığında, bu dönüşüme hazırlanması ve sürecin önünde yer alması büyük önem taşımaktadır.

Güvenlik Hizmetleri Sektöründe Yapay Zekâ

Yapay zekâ sistemleri, güvenlik hizmetleri sektörünün pek çok farklı alanında kullanılabilmekte; şirketlere, çalışanlara, müşterilere ve kamusal güvenliğe çeşitli faydalar sunmaktadır:

● Risk analizi çözümleri, gözetim kameraları gibi mevcut güvenlik altyapılarından elde edilen büyük miktardaki veriyi işleyerek somut içgörüler, iyileştirmeye yönelik öneriler ve “tasarımdan itibaren güvenlik hizmetleri” (security services by design) sağlayabilmektedir.

● Biyometrik doğrulama sistemleri, özellikle kritik altyapılar gibi hassas ortamlarda erişim kontrolünün etkinliğini ve verimliliğini önemli ölçüde artırabilmektedir.

● Yapay zekâ destekli alarm sistemleri ve kameralar, alarm izleme merkezlerinde gerçek alarmlarla yanlış alarmların ayırt edilmesine yardımcı olabilmekte veya davranış tespitini destekleyebilmektedir.

● “APIDS” (Automatic Prohibited Item Detection Systems – Otomatik Yasaklı Nesne Tespit Sistemleri) olarak adlandırılan sistemler, eğitim aldıkları görüntü ve veriler aracılığıyla havacılık güvenliği kapsamında yasaklı nesneleri tespit edebilmektedir.

● İş yerinde kullanılan algoritmik yönetim sistemleri, özellikle geniş iş gücüne sahip şirketlerde görev dağılımı ve personel planlamasını destekleyebilmektedir.

Yapay zekânın sunduğu bu faydalar; uzun vadeli güvenlik konseptlerini dönüştürme, kurumsal dayanıklılığı güçlendirme, güvenlik personelinin görevlerini daha güvenli hale getirme ve nihayetinde güvenlik hizmetlerini daha etkili ve verimli kılma açısından son derece büyük bir potansiyel taşımaktadır.

Bununla birlikte, bu dönüşüm; güvenlik sektöründe yapay zekânın sorumlu ve etik kullanımına ilişkin önemli uyum sorularını ve zorlukları da beraberinde getirmektedir. Sektör uzmanlarının rehberliğinde geliştirilen ve www.coess.eu adresinde erişilebilir olan CoESS Şartı; güvenlik şirketlerinin yalnızca AB Yapay Zekâ Tüzüğü’nü değil, aynı zamanda yapay zekâ sistemlerinin hizmet ve operasyonlara sorumlu ve etik biçimde entegre edilmesi için gerekli diğer temel gereklilikleri de anlamalarına yardımcı olmayı amaçlamaktadır. Bu yaklaşım, AB düzenlemelerine asgari uyumun ötesine geçmektedir. Şart; çeşitli yapay zekâ kullanım senaryolarını ve bunların sunduğu fırsatları açıklarken, aynı zamanda temel riskleri vurgulamakta ve şirketlerin teknolojik faydalardan tam anlamıyla yararlanırken bu riskleri azaltabilmeleri için izlemeleri gereken önerileri ortaya koymaktadır.

Güvenlik Sektöründe Yapay Zekâ Kullanımıyla İlişkili Riskler

Risk yönetimi, CoESS Şartı’nın merkezî temalarından birini oluşturmaktadır. Şart, çok sayıda riski listelemekte ve şirketlerin, genellikle birbirini güçlendiren ve yapay zekânın kullanımından önce ve kullanım süresince bütüncül bir yaklaşımla ele alınması gereken beş temel risk itici unsurunu ayrıntılı biçimde değerlendirmesini önermektedir:
● Özenli risk yönetimi süreçlerinin eksikliği
● Güvenilir olmayan veya önyargılı veri setlerinin kullanımı
● Yetersiz insan gözetimi
● Yapay zekâ sisteminin fiziksel ve siber dayanıklılığının yetersiz olması
● Şirket bünyesinde yapay zekâ yönetişim çerçevelerinin bulunmaması
Bu itici unsurlar, spesifik uygulamaya bağlı olarak çok çeşitli maddi ve gayri maddi riskler şeklinde ortaya çıkabilmektedir. Yapay zekânın sunduğu potansiyel ile beraberinde getirdiği riskler arasında denge kurulabilmesi için CoESS Şartı; şirketleri, her bir yapay zekâ kullanımının etik, hukuki, toplumsal ve güvenlikle ilgili etkilerini dikkatle değerlendirmeye ve bu değerlendirmeleri bir yapay zekâ yönetişim çerçevesi içine yerleştirmeye teşvik etmektedir.

AB Yapay Zekâ Tüzüğü (EU AI Act)

Bu husus, Avrupa Birliği içinde güvenlik hizmeti sunan veya yapay zekâ ürünleri satan şirketler açısından, katı hukuki gerekçelerle de büyük önem taşımaktadır. 2024 yılında kabul edilen Avrupa Birliği’nin “AB Yapay Zekâ Tüzüğü (EU AI Act)”, “yüksek riskli yapay zekâ” olarak tanımlanan sistemler için düzenlemeler de dâhil olmak üzere, şirketler açısından önemli yeni uyum yükümlülükleri getirmektedir. Bu kuralların büyük çoğunluğu Ağustos 2026’dan önce uygulanmayacaktır (her ne kadar Avrupa Komisyonu kısa süre önce bu tarihin ertelenmesini önermiş olsa da). Bununla birlikte, yapay zekâ kullanımına ilişkin bazı yasaklar ile yapay zekâ kullanan personel için öngörülen eğitim yükümlülükleri Şubat 2025 itibarıyla yürürlüğe girmiştir.

Uyumun sağlanabilmesi için, güvenlik şirketlerinin hizmetlerinde veya iç operasyonlarında ne zaman yapay zekâ kullandıklarını doğru biçimde tespit edebilmeleri büyük önem taşımaktadır. Şirketler; düşük riskli sistemler ile yüksek riskli sistem ve uygulamaları birbirinden ayırt edebilmeli ve AB Yapay Zekâ Tüzüğü’nün veya diğer ülkelerde geçerli benzer mevzuatların getirdiği sonuçları ve gereklilikleri tam olarak anlamalıdır.

Şirketlerin Bugün Yapması Gerekenler: Yapay Zekâ Yönetişimi ve Personel Eğitimi

CoESS, Şart kapsamında; operasyonlarına yapay zekâyı entegre etmeyi planlayan şirketlere, bir yapay zekâ yönetişim çerçevesi oluşturmalarını ve yapay zekâ kullanımından sorumlu personelin uygun eğitimlerden geçirilmesini tavsiye etmektedir.
Bir yapay zekâ yönetişim çerçevesi, etik ve sorumlu yapay zekâ kullanımının güvence altına alınması açısından kritik bir ilk adımdır. Böyle bir çerçeve aşağıdaki unsurları içermelidir:
● Tanımlı sorumluluklara ve süreçlere sahip bir yapay zekâ yönetişim ekibinin oluşturulması
● Yapay zekâ sistemlerine duyulan ihtiyacın, ilişkili risklerin ve hukuki gerekliliklerin analiz edilmesi
● Üçüncü taraflarca yapılabilecek hukuki incelemeler de dâhil olmak üzere, maliyet–fayda değerlendirmesi (avantajlar, riskler ve uyum yükümlülüklerinden ağır basıyor mu?)
● Sistem tedarikinde gerekli özenin gösterilmesi ve yetkinlik çerçevelerinin oluşturulması
● Çalışanlara yönelik şeffaflık önlemleri
● Uygulanabilir olduğu ölçüde, hukuken zorunlu tedbirlerin hayata geçirilmesi
● Değer zinciri genelinde dernekler, otoriteler ve diğer aktörlerle sürekli etkileşim ve bilgi alışverişi

Bir yetkinlik çerçevesinin geliştirilmesi ve hedefli personel eğitimlerinin sağlanması, yapay zekâ yönetişiminin temel bileşenleri arasında yer almakta olup, günümüzde Avrupa Birliği’nde aynı zamanda hukuki bir zorunluluk haline gelmiştir. Böyle bir çerçeve aşağıdaki unsurları kapsamalıdır:
● Kurum içi bir davranış kuralları (code of conduct)
● Kullanılan yapay zekâ sistemlerinin, ilgili kullanıcıların ve iş birimlerinin ve gerekli yetkinliklerin analizi
● Çalışanlara yönelik yetkinlik değerlendirmeleri
● Bölümlere, rollere ve kullanım senaryolarına göre uyarlanmış eğitim programları
● Teknik (güvenlikle ilgili unsurlar dâhil), etik ve hukuki boyutları kapsayan içerikler
● Yetkinlik çerçevesinin sürekli olarak gözden geçirilmesi ve güncellenmesi

CoESS Şartı, güvenlik şirketlerinin bu karmaşık ve yüksek beklenti içeren sürece ilk adımlarını atmalarını desteklemek amacıyla tasarlanmıştır. Örneğin; yapay zekâ sistemleri ve kullanım senaryolarındaki risk seviyelerinin anlaşılmasına yardımcı olmakta ve AB Yapay Zekâ Tüzüğü’nün hukuki gereklilikleri temelinde, yapay zekânın kullanımına ilişkin pratik öneriler sunmaktadır. Bu kapsamda, şirketlerin yapay zekâ entegrasyonuna sorumlu ve etkili bir şekilde yaklaşmasını sağlamak üzere bir kontrol listesi de içermektedir.

Önemle vurgulanmalıdır ki bu belge, yalnızca uyum kutucuklarının işaretlenmesinin çok ötesine geçmektedir: Şart, belgede tanımlanan temel değerler setine dayanan, insan merkezli bir yapay zekâ inovasyonu yaklaşımını teşvik etmektedir. Şart, www.coess.eu adresinden indirilebilmektedir.