Логіка та хід думок АІ перестають бути зрозумілими

Так вважають понад 40 дослідників із великих компаній на кшталт OpenAI та Google.

Зараз базові нейронки поки що видають переважно зрозумілі міркування, тож можна відстежити, де вони брешуть, маніпулюють чи саботують процес.

Але якщо взяти потужніші моделі, то схеми мислень стають абсолютно незрозумілими для людини. У результаті інтерпретувати АІ неможливо, контроль над ним відсутній, а він продовжує робити свою справу. За своєю особистою схемою, зрозуміти яку «шкіряним» не дано.