biuro@improveo.pl
(+48) 509 665 027
Zadzwoń do nas
Napisz do nas
Maszyny nie muszą przejąć kontroli. Możemy ją oddać sami.
W filmach o buncie maszyn zwykle przychodzi taki moment, w którym sztuczna inteligencja uznaje, że człowiek jest zbędny.
Przejmuje systemy, odcina ludzi od kontroli i zaczyna urządzać świat po swojemu.
Efektowne? Bardzo.
Tyle że rzeczywistość może okazać się znacznie mniej widowiskowa.
Żadnego buntu, żadnych czerwonych świateł, żadnego komunikatu: „Od teraz rządzę ja”.
Po prostu pewnego dnia człowiek kliknie „Zatwierdź”, nie do końca rozumiejąc, co zatwierdza.
A potem zrobi to ponownie.
I jeszcze raz.
Bo przecież system przeanalizował dane, przygotował rekomendację i uzasadnił ją lepiej, niż człowiek potrafiłby to zrobić samodzielnie.
Maszyny nie będą musiały odbierać nam kontroli.
Wystarczy, że sami uznamy, że nie warto już jej sprawować.
Najpierw oddajemy zadania. Potem myślenie.
Zaczyna się niewinnie.
AI napisze maila, podsumuje spotkanie, przygotuje prezentację.
Po co tracić godzinę, skoro można zrobić to w kilka minut?
Później prosimy ją o analizę problemu, wskazanie przyczyn, zaproponowanie rozwiązań.
Następnie o ocenę ryzyka, rekomendację strategiczną i plan wdrożenia.
Każdy krok ma sens.
Każdy przynosi oszczędność czasu.
Każdy z osobna wydaje się rozsądny.
Ale jest pewien haczyk:
jeśli za każdym razem oddajemy narzędziu nie tylko wykonanie pracy, lecz także analizę, ocenę i wybór rozwiązania, to co właściwie zostaje po naszej stronie?
Zatwierdzanie?
Można oczywiście powiedzieć, że człowiek nadal podejmuje ostateczną decyzję.
Tylko że samo kliknięcie przycisku nie jest jeszcze dowodem, że ktokolwiek nad czymkolwiek zapanował.
Jeśli nie potrafisz ocenić rekomendacji, nie kontrolujesz decyzji.
Jedynie ją zatwierdzasz.
Ekspert z przyciskiem „Generuj”
AI potrafi dziś przygotować odpowiedź, która brzmi jak opinia doświadczonego eksperta.
Uporządkowana argumentacja, profesjonalny język, logiczna struktura, przekonujące wnioski.
Wszystko się zgadza — przynajmniej na pierwszy rzut oka.
Problem w tym, że pewny ton nie jest dowodem wiedzy, a spójna argumentacja nie gwarantuje, że wnioski są prawidłowe.
System może pominąć istotne ograniczenie, oprzeć się na błędnym założeniu albo zaproponować rozwiązanie,
które świetnie wygląda w teorii, ale nie ma szans zadziałać w konkretnej firmie.
I właśnie dlatego potrzebujemy ludzi, którzy potrafią myśleć krytycznie, znają swoją dziedzinę i umieją podważyć nawet bardzo przekonującą odpowiedź.
Tymczasem możemy pójść w przeciwnym kierunku: zamiast rozwijać kompetencje, będziemy rozwijać umiejętność formułowania poleceń.
Zamiast rozumieć problem, nauczymy się prosić o jego rozwiązanie. Zamiast sprawdzać wnioski, będziemy oceniać, czy dobrze wyglądają.
Wtedy nie będziemy mieli armii ekspertów wspieranych przez AI.
Będziemy mieli armię ludzi, którzy potrafią wygenerować ekspertyzę.
A to nie jest to samo.
Wygoda, która wystawia rachunek
W firmach taki mechanizm może być szczególnie kosztowny.
AI przygotuje analizę, menedżer zaakceptuje rekomendację, zarząd zatwierdzi kierunek, a organizacja ruszy z wdrożeniem.
Dopiero później okaże się, że dane były niepełne, założenia oderwane od rzeczywistości,
a plan nie uwzględniał ograniczeń procesów, kompetencji zespołu ani zależności między działami.
Ktoś zapyta, dlaczego nikt tego wcześniej nie zauważył.
Odpowiedź może być banalna: wszyscy założyli, że ktoś to sprawdził.
AI nie musi popełniać spektakularnych błędów, żeby wyrządzić szkody.
Wystarczy, że stworzy przekonującą odpowiedź na podstawie niepełnych informacji, a ludzie potraktują ją jak solidny fundament decyzji.
Im więcej zadań i decyzji powierzamy systemom, tym ważniejsze staje się pytanie, czy potrafimy rozpoznać sytuację, w której system się myli.
Bo kiedy kompetencje pozostają po naszej stronie, technologia zwiększa nasze możliwości.
Kiedy zaczynamy je zaniedbywać, technologia może stać się protezą, bez której coraz trudniej nam funkcjonować.
A od protezy do zależności droga bywa krótsza, niż nam się wydaje.
Kto tu właściwie kogo rozwija?
Jest jeszcze jeden paradoks.
Tworzymy coraz lepsze narzędzia, żeby ludzie mogli robić więcej, szybciej i sprawniej.
Ale jeśli przy okazji przestaniemy ćwiczyć samodzielne myślenie, ocenianie i rozwiązywanie problemów, możemy zacząć tracić właśnie te umiejętności,
które pozwalają nam rozsądnie korzystać z technologii.
Nie stanie się to z dnia na dzień.
Nie wszyscy stracą kompetencje.
AI może przecież pomagać w nauce, poszerzać perspektywę i wzmacniać możliwości dobrych specjalistów.
Nie chodzi więc o to, żeby odrzucić technologię i wrócić do pisania wszystkiego na kartce.
Chodzi o to, by nie pomylić wygody z rozwojem, szybkości z jakością, a dostępu do odpowiedzi ze zrozumieniem problemu.
Bo możemy mieć najlepsze narzędzia na świecie, a jednocześnie coraz słabiej rozumieć, jak i dlaczego ich używamy.
I wtedy pojawia się pytanie znacznie poważniejsze niż to, czy AI zabierze nam pracę.
Co się stanie, gdy przestaniemy umieć robić rzeczy, które oddaliśmy jej do wykonania?
Bunt, którego nie będzie trzeba ogłaszać
Nie wiemy, jak daleko zajdzie rozwój sztucznej inteligencji ani jakie scenariusze staną się możliwe za kilkanaście czy kilkadziesiąt lat.
Nie ma sensu udawać, że każdy filmowy scenariusz jest zapowiedzią przyszłości.
Ale nie musimy czekać na świadomą maszynę, która postanowi przejąć władzę, żeby zmierzyć się z problemem ludzkiej kontroli.
Wystarczy, że systemy będą podejmowały coraz więcej działań, a ludzie będą coraz mniej zdolni do samodzielnego sprawdzania ich decyzji.
Że odpowiedzialność formalnie pozostanie po naszej stronie, ale rzeczywista zdolność do kwestionowania rekomendacji zacznie słabnąć.
W takim świecie człowiek nadal będzie siedział przed komputerem.
Nadal będzie wydawał polecenia, zatwierdzał wyniki i podpisywał dokumenty.
Z zewnątrz wszystko będzie wyglądało tak, jakby to on zarządzał sytuacją.
Tylko że między podejmowaniem decyzji a rozumieniem decyzji jest zasadnicza różnica.
I może właśnie dlatego warto zacząć zadawać te pytania teraz — kiedy nadal możemy decydować, jakiej roli chcemy używać AI, zamiast bezrefleksyjnie przesuwać kolejne granice.
Największym zagrożeniem może nie być to, że AI stanie się mądrzejsza od człowieka.
Tylko to, że człowiek przestanie rozwijać własny osąd, bo uzna, że nie musi już go używać.
A wtedy maszyny nie będą musiały przejmować kontroli.
Wystarczy, że nie będzie już komu jej sprawować.
Przeczytaj także:
Polityka prywatności
RODO
Cookies
IMPROVEO Development
Wspieramy organizacje w rozwoju,
transformacji i skutecznej komunikacji.
Acta, non verba
© 2023 IMPROVEO Development. Wszelkie prawa zastrzeżone