INTODIGITAL#7: WSTĘP DO CYBERBEZPIECZEŃSTWA SYSTEMÓW SZTUCZNEJ INTELIGENCJI
by usrob
written by usrob
Wszystkich zainteresowanych zapraszamy na siódmą prelekcję w ramach otwartego seminarium naukowego intoDIGITAL. Prelekcję „Wstęp do cyberbezpieczeństwa systemów sztucznej inteligencji” wygłosi dr hab. inż. Jerzy Surma z Instytutu Informatyki i Gospodarki Cyfrowej SGH.
Celem prezentacji jest omówienie problematyki intencjonalnego atakowania systemów sztucznej inteligencji na przykładzie nadzorowanych systemów uczenia maszynowego. Zostanie zaprezentowania taksonomia ataków związanych z ingerencją w działanie takich systemów na każdym etapie cyklu ich życia. Jest to szczególnie istotna problematyka w sytuacji znikomej obecnie świadomości tego typu potencjalnych zagrożeń przy jednoczesnym powszechnym już użytkowania systemów sztucznej inteligencji w praktyce biznesowej.
14 kwietnia 2023 r. dr hab. Jerzy Surma, prof. SGH, pełnomocniczka rektora ds. współpracy z uczelniami ukraińskimi dr Iryna Dehtiarowa (Degtyarova) oraz kanclerz SGH dr Marcin Dąbrowski spotkali się z przedstawicielami Państwowej Służby Łączności Specjalnej i Ochrony Informacji Ukrainy (SSSCIP), organu ukraińskich władz w dziedzinie specjalnej łączności i ochrony informacji, w tym koordynującego system cyberbezpieczeństwa.
ChatGPT może generować absurdalne i nieprawdziwe odpowiedzi nazywane halucynacjami. Jest to niezwykle niebezpieczne zjawisko, które może doprowadzić do tragicznych konsekwencji. Przedstawiam przykłady halucynacji, staram się omówić jej przyczyny i konsekwencje. Ku przestrodze dla zbyt rozgorączkowanych entuzjastów. ______________________________________
Materiały źródłowe:
[1] https://spectrum.ieee.org/ai-hallucin…
Rozwój Sztucznej Inteligencji, w tym w szczególności dużych modeli językowych (np. GPT) wzbudza zaniepokojenie w kontekście wpływu tych technologii na rynek pracy. Czy te systemy pomogą nam w pracy czy tez może “wyślą” nas bezrobocie ?
______________________________________
Materiały źródłowe:
[1] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models: https://arxiv.org/abs/2303.10130
[2] Sztuczna inteligencja 2041 (ceneo): https://www.ceneo.pl/135869424
3] AI Art Filters: https://apps.apple.com/pl/app/ai-art-…
[4] Style Transfer – Styling Images with Convolutional Neural Networks: https://gsurma.medium.com/style-trans… [5] https://github.com/dair-ai/Prompt-Eng…
[6] Logika i argumentacja. Praktyczny kurs krytycznego myślenia(ceneo): https://www.ceneo.pl/50668038
Systemy Sztucznej Inteligencji będą rozstrzygały dylematy etyczne związane z naszym zdrowiem i życiem. Przedstawiam eksperyment myślowy „trolley problem” i wskazuję na ogromna odpowiedzialność projektantów takich systemów oraz pilną potrzebę odpowiednich regulacji związanych z praktycznymi zastosowaniami. ______________________________________
Materiały źródłowe:
[1] https://www.nature.com/articles/s4158…