هل الذكاء الاصطناعي محايد؟ التحيز والخوارزميات | Inès El Gataa | TEDxRovigo

هل يمكن اعتبار الذكاء الاصطناعي محايداً؟ تتناول عالمة الرياضيات والباحثة Inès El Gataa قضية التحيز الخوارزمي في هذه المحاضرة ضمن فعاليات TEDxRovigo. تقول إن الخوارزميات ومجموعات البيانات قد ترث وتضخم أشكال التمييز القائمة في المجتمع المرتبطة بالجنس والعرق والطبقة الاجتماعية، وتؤثر في قرارات تتعلق بالعمل والائتمان والرعاية الصحية والتعليم. وتدعو المحاضرة إلى نموذج أكثر مسؤولية وشفافية وقابلية للطعن، يُبنى بمشاركة مستخدميه.

• قد تعيد الخوارزميات ومجموعات البيانات إنتاج التحيزات الاجتماعية
• تأثيرها في قرارات العمل والائتمان والخدمات الصحية والتعليمية
• الحاجة إلى ذكاء اصطناعي أكثر مسؤولية وقابلية للمساءلة

Inès El Gataa, matematica e ricercatrice, parla dell’intelligenza artificiale e si una domanda sempre più urgente: possiamo davvero considerarla neutrale? Algoritmi e dataset possono infatti ereditare e amplificare discriminazioni già presenti nella società, replicando pregiudizi di genere, etnia e classe sociale in decisioni che riguardano il lavoro, il credito e l’accesso ai servizi sanitari ed educativi. Da qui nasce la necessità di un nuovo modello di AI più responsabile, consapevole e contestabile, costruito insieme a chi quelle tecnologie le utilizza ogni giorno. Un invito a non dare mai per scontata la tecnologia, ma a interrogarla sempre con uno sguardo critico. Inès El Gataa è matematica, ricercatrice e CTO nel campo dell’intelligenza artificiale. Cresciuta all’incrocio di culture e tradizioni scientifiche diverse, sviluppa fin da subito una convinzione: che l’AI non sia solo la tecnologia più potente che l’umanità abbia mai costruito, ma la domanda più urgente che abbia mai dovuto affrontare. Chi decide come funziona? Quali valori codifica? Chi protegge e chi esclude? Si occupa di explainable AI, ovvero di aprire i modelli che usiamo ogni giorno per capire cosa succede davvero dentro di loro. Ha parlato su palchi internazionali, conduce ricerca all’intersezione tra bias algoritmico, causalità e geopolitica tecnologica, e guida un team che sviluppa AI per il mercato del lavoro con un criterio preciso: che sia giusta, non solo efficiente. Crede che il futuro non lo scriva chi costruisce i modelli più grandi, ma chi ha il coraggio di fare le domande che questi modelli non sanno ancora rispondere. This talk was given at a TEDx event using the TED conference format but independently organized by a local community. Learn more at https://www.ted.com/tedx