Математики предупредили правительства о недостоверности заявлений об ИИ

Более 150 математиков из разных стран подписали «Лейденскую декларацию об искусственном интеллекте и математике». Документ призывает правительства и регуляторов критически оценивать громкие заявления технологических компаний о возможностях ИИ в решении сложных математических задач, которые ранее считались недоступными для алгоритмов.

Коммерческая подоплека и риск ошибочных решений

Как отмечается в декларации, технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Поэтому авторы рекомендуют политикам при принятии решений консультироваться с независимыми математиками и экспертами, а не полагаться на пресс-релизы или публикации в СМИ.

Особую тревогу вызывает то, что модели ИИ могут генерировать убедительные, но в итоге ошибочные решения. Подписант декларации, руководитель факультета компьютерных наук Оксфордского университета Лесли Энн Голдберг, указала, что такие ошибки зачастую трудно отличить от корректных математических доказательств. Это создает серьезную проблему для всей науки, ведь математические исследования опираются на предыдущие работы, и достоверность результатов имеет критическое значение.

Научное финансирование и этические аспекты

Авторы декларации обращают внимание на то, что в последнее время исследователям стало сложнее привлекать финансирование. Академическое сообщество вынуждено подстраиваться под растущий интерес к ИИ, хотя это часто идет в ущерб фундаментальной науке и высшему образованию. Индустрия предоставляет математикам ресурсы, но одновременно способствует недофинансированию академических институтов.

Кроме того, математики напоминают, что модели ИИ обучаются на передовых научных работах, часто без согласия их авторов. В декларации также затронуты более широкие темы: ИИ-индустрия участвует в разработке военных технологий и систем массового наблюдения, способствует распространению дезинформации и усиливает экологическую нагрузку.

Вице-президент Международного математического союза Ульрике Тильманн подчеркнула, что будущее математических исследований должно определяться человеческими суждениями, справедливыми и прозрачными практиками, а также общими ценностями мирового математического сообщества. Декларация стала ответом на растущую шумиху вокруг ИИ и стремление технологических компаний представить свои системы как прорыв в фундаментальной науке.