25 обладателей медали Филдса — высшей награды в области математики — выступили с открытым письмом, в котором предупредили о фундаментальных угрозах, которые несет стремительное развитие искусственного интеллекта для научного сообщества.
Главная тревога ученых связана не с технологической безработицей, а с разрушением культуры открытой науки и разрывом цепочки передачи знаний. В совместном заявлении математики констатируют: ИИ уже способен решать крупные задачи, однако без участия живых исследователей его идеи «никогда не станут полностью живыми». Авторы предупреждают, что человеческая цепочка передачи знания может оборваться, если роль ученого сведется к обслуживанию алгоритмов.
Угроза открытости. Основной удар, по мнению лауреатов, принимает на себя культура открытой науки. Ситуация, когда лаборатории тратят миллионы долларов и используют ИИ для того, чтобы первыми «добить» чужие доказательства, создает порочную практику. Вместо сотрудничества математики могут начать скрывать свои идеи, опасаясь, что их результаты будут моментально присвоены или обесценены конкурентами с более мощными вычислительными ресурсами.
Скандал вокруг OpenAI и давление на ученых. Письмо также проливает свет на отдельные этические конфликты, связанные с крупными игроками рынка ИИ. В частности, упоминается скандал с участием профессора из Нью-Йоркского университета (NYU) Тристана Бакмастера. Он обвинил компанию OpenAI в давлении с целью заставить его не указывать в заслугах коллегу из конкурирующей Anthropic. Кроме того, сообщается, что сама OpenAI в итоге отказалась спонсировать математическое мероприятие в Калифорнийском технологическом институте (CalTech).
Источник: Densus.ru