Kanadyjski pionier sztucznej inteligencji apeluje do Kongresu USA
Kanadyjski pionier sztucznej inteligencji apeluje do Kongresu USA
Gigant w dziedzinie sztucznej inteligencji wydał ostrzeżenie dla amerykańskich prawodawców: Uregulujcie tę technologię i zróbcie to szybko.
Apel ten został wystosowany podczas wtorkowego przesłuchania w Waszyngtonie przez Yoshua Bengio, profesora na Uniwersytecie w Montrealu i założyciela Mila, instytutu sztucznej inteligencji w Quebecu. “Jestem głęboko przekonany, że konieczne są pilne wysiłki, najlepiej w nadchodzących miesiącach” – powiedział Bengio, jeden z trzech świadków.
Przesłuchanie przed podkomisją Senatu USA odbyło się, gdy prawodawcy badają możliwe przepisy regulujące szybko rozwijającą się technologię sztucznej inteligencji.
Wymieniono litanię koszmarnych scenariuszy: Skorumpowane wybory, z kandydatami podszywającymi się pod nich lub zhakowanymi systemami głosowania. Oszustwa bankowe. Instrukcje dotyczące ataku bronią biologiczną, dostępne po naciśnięciu jednego przycisku. Broń nuklearna kontrolowana przez zautomatyzowane programy, które nagle stają się nieuczciwe.
Bengio zasugerował szereg możliwych działań. Powiedział, że konieczna jest międzynarodowa koordynacja. Powiedział, że jeśli Stany Zjednoczone same uchwalą przepisy, nieuczciwe podmioty mogą po prostu nadużywać tej technologii w innych miejscach.
Zasugerował również utworzenie międzynarodowych laboratoriów o bezpiecznym dostępie do badań nad środkami zaradczymi przeciwko przestępczemu wykorzystaniu sztucznej inteligencji i powiedział, że firmy zajmujące się mediami społecznościowymi powinny być zmuszone do potwierdzenia, że użytkownicy są prawdziwymi ludźmi, tak jak robią to banki z klientami.
Jedna z senatorek, Amy Klobuchar, wyraziła zaniepokojenie faktem, że ludzie mają konta bankowe opróżniane przez cyfrowych oszustów. Demokratka z Minnesoty zapytała Bengio, czy poparłby prawo dające ludziom kontrolę nad ich wizerunkiem, imieniem i głosem, a on odpowiedział: “Oczywiście. Ale poszedłbym dalej”.
Zwrócił uwagę na surowe przepisy i surowe sankcje karne za podrabianie pieniędzy – to odstrasza ludzi – powiedział Bengio, więc powinny istnieć również kary za podrabianie ludzi.
Na koniec zaapelował o ograniczenia w udostępnianiu oprogramowania open-source, mówiąc, że “źli” aktorzy mogą łatwo zmodyfikować takie systemy do nikczemnych celów.
Parafrazując kanadyjskiego pioniera sztucznej inteligencji, Geoffreya Hintona, Bengio zapytał retorycznie: “Gdyby bomby nuklearne były oprogramowaniem, czy pozwoliłbyś na bomby nuklearne o otwartym kodzie źródłowym?”.
Przewodniczący komisji, senator Richard Blumenthal z Connecticut, otworzył przesłuchanie, chwaląc stojące przed nim umysły technologiczne jako jeden z najwybitniejszych paneli, jakie kiedykolwiek widział w Kongresie. Obejmuje to Bengio, który, jak zauważył Blumenthal, był pionierem kilku podstawowych technologii komputerowych i jest czasami określany jako jeden z ojców chrzestnych sztucznej inteligencji.
Przewodniczący określił cel tego przesłuchania, najnowszego z serii, którą prowadził: “Napisać prawdziwe prawa – egzekwowalne prawa”. Ale odniósł się także do “słonia w pokoju” – wątpliwości co do zdolności Kongresu do szybkiego działania. “Sytuacja kryzysowa wymaga działania. Przyszłość to nie jest science fiction ani fantasy. To nawet nie jest przyszłość. Jest tutaj teraz” – powiedział Blumenthal.
Amerykańscy decydenci badają różne bariery ochronne dla sztucznej inteligencji, choć nie jest jasne, czy którykolwiek z nich stanie się prawem. Uchwalenie ustawy wymagałoby przejścia przez kierowaną przez Republikanów Izbę Reprezentantów, a także uzyskania 60 procent głosów w Senacie.
Jesienią ubiegłego roku administracja Bidena opublikowała pierwszą w swoim rodzaju ustawę o prawach AI: wzywającą do bezpiecznego i przejrzystego korzystania z takich narzędzi, z poszanowaniem prywatności użytkowników, a także do tego, by instytucje, na przykład organy ścigania, nie używały algorytmów, które dyskryminują. W zeszłym tygodniu Biały Dom ogłosił nowe dobrowolne środki z siedmioma głównymi firmami, w tym Amazon, Google, Microsoft, Meta i OpenAI. Firmy zobowiązały się do przeprowadzenia szeroko zakrojonych testów bezpieczeństwa przed wydaniem produktu, w tym testów przeprowadzonych przez zewnętrznych ekspertów, do systemu zgłaszania luk w zabezpieczeniach oraz do używania znaków wodnych do identyfikacji zmyślonego obrazu.
W niedawnym wywiadzie dla CBC News Bengio powiedział, że Kanada może stać się pierwszym krajem produkującym sztuczną inteligencję, który wprowadzi znaczące przepisy. Projekt ustawy C-27 przeszedł dwa czytania w Izbie Gmin i oczekuje się, że jesienią tego roku zostanie rozpatrzony przez komisję parlamentarną przed ostatecznym głosowaniem w Izbie Gmin.
Jego zakres jest bardziej ograniczony niż zasady Białego Domu. W rzeczywistości jest to zbiorcza ustawa o prywatności i ochronie danych, która zawiera jedną sekcję dotyczącą sztucznej inteligencji. Pozwoliłoby to federalnemu ministrowi zażądać dokumentacji firmy i przeprowadzić audyt systemów sztucznej inteligencji.
Przedsiębiorstwa musiałyby podjąć środki zapobiegające pewnym szkodom. Niezastosowanie się do nich groziłoby grzywną w wysokości do 25 milionów dolarów, do pięciu procent globalnych przychodów firmy i do pięciu lat więzienia. Liberalny rząd twierdzi, że jest to podstawowe prawo, do którego można dodać przyszłe zasady AI. Konserwatyści nazwali ustawę zbyt niejasną, zbyt ograniczoną i zbyt słabą w ochronie prywatności. Byli jedyną partią, która głosowała przeciw w drugim czytaniu.