Учёные случайно открыли ящик Пандоры и сами испугались.

Команда учёных из компании Collaborations Pharmaceuticals в Северной Каролине, США, разрабатывает химические препараты для лечения болезней.

Как пишет Daily Mail, исследователям пришла в голову идея подключить к этому процессу искусственный интеллект. Но перед тем, как заняться поиском возможного лекарства, компьютеру поручили выявить и исключить те возможные комбинации, которые могут навредить человеку.

Такой эксперимент привёл к пугающим результатам: всего за шесть часов работы искусственный интеллект «придумал» 40 тысяч соединений, которые могли бы использоваться в качестве химического оружия. При этом некоторые из них напоминали самые опасные нервнопаралитические вещества, которые применяются в наше время.

Фабио Урбина, автор исследования, отметил, что идея проверить эффективность искусственного интеллекта на таком сомнительном поприще возникла на конференции «Конвергенция», организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты.

«Нас пригласили на конференцию, чтобы обсудить машинное обучение и то, как его можно использовать не по назначению в нашем пространстве. Это то, о чём мы никогда раньше не задумывались. Самым страшным было то, как легко это было сделать. Базы данных о токсичности можно скачать где угодно. Нужен только человек, который знает необходимый язык программирования и умеет работать с машинным обучением, пара дней работы — и он получит что-то вроде такой генеративной модели», — рассказал Урбина.

23 марта 2022

https://sevastopol.su/news/iskusstvennyy-intellekt-razrabotal-40-tysyach-vidov-smertelnogo-himoruzhiya