Вальтер Фраккаро: «ИИ без этики — это не настоящий интеллект»

Разведка о современном состоянии и будущем искусственного интеллекта в мире с менеджером-экспертом из Венето на саммите SAIHub в Сиене

Родился в Турин, корни его семьи восходят к плато Азиаго, но выбрал Toscana жить и работать; считается одним из ведущие мировые эксперты в области искусственного интеллектано сам по себе Уолтер Фраккаро он предпочитает говорить то, что действительно важно для него: «Я из тех, кто ездит на велосипеде, кто также читает сырное меню, кто думает, что если вы ничему не научились в тот день, вы сделали не так, чтобы встать, что если у нас так много глаголов, таких как изучение, изучение, знание, понимание и объяснение это потому, что все это основано на предыдущем, которому 56 лет и который ценит молодых людей больше, чем сверстников…».
Президент di САИХаб, Сокращенно Сиенский центр искусственного интеллекта, полюс мирового значения в области наук о жизни, убежден, что Естественные науки являются существенное значение для достижения Цели устойчивого развития определяетсяООН, и поэтому «Я работаю над продвижением более широкого использования искусственного интеллекта в компаниях и организацией ознакомительных мероприятий для молодых людей, чтобы они могли увлечься наукой и выбрать ее в качестве профессии».

В качестве консультанта он всегда помогал компаниям в определение проектов искусственного интеллекта, направленных на создание реального конкурентного преимущества, с учетом технологических, этических и социальных аспектов, с особым вниманием к устойчивому развитию. Он также выступает в качестве советника для частных компаний, фондов и бизнес-консультационных фирм в областиИскусственный интеллект применительно к R & Dтак называемый Исследования и разработки. В этом контексте он написал шесть проектов на тему Медико-биологическая промышленность, каждый из которых получил государственные и частные взносы и финансирование.
На своем профессиональном пути он пересекался с различными итальянскими компаниями и локациями, всегда на ответственных должностях, некоторые из которых все еще актуальны, другие относятся к прошлому, и все это за период времени, совпадающий с двумя последними десятилетиями: Фонд Монте-деи-Паски в Сиене, bba выполняет обещание биотехнологии, Паролин Юридический, Ахиллесовы вакцины, Фонд жизни, 4Науки, ИКТ-сеть Dedagroup и престижный Университет Падуи.

Самое известное определение искусственного интеллекта на итальянском языке дал инженер Марко Сомальвико, один из пионеров этого вопроса. Он говорит: «Это дисциплина, относящаяся к компьютерным наукам, которая изучает теоретические основы, методологии и методы, которые позволяют проектировать аппаратные системы и программные системы, способные обеспечить электронный компьютер такими характеристиками, которые обычному наблюдателю могут показаться невероятными. иметь исключительное значение для человеческого интеллекта». Это фраза, которая все еще актуальна, или она достойна «купона»? И какое «объяснение» ИИ дает такой эксперт, как Вальтер Фраккаро?
«Это определение с этим «они кажутся» попадает в цель. Мы привыкли приписывать интеллект тем, кто может решать сложные задачи, и поэтому, когда мы видим, как компьютер побеждает чемпиона по шахматам, мы думаем, что он проявляет какую-то форму интеллекта, и здесь возникает недоразумение. Хотя нельзя исключать, что в будущем удастся передать биологическую способность мозга производить интеллект машине, сегодня мы очень далеки от чего-то подобного. Огромный потенциал ИИ заключается в том, чтобы уметь сопоставлять множество различных данных друг с другом, что невозможно для человеческих возможностей, но типично для компьютера. Короче говоря, мы, люди, обладаем качественными умственными способностями (мы воспринимаем удовольствие, которое может доставить нам Девятая Бетховена), калькулятор намного лучше нас на количественном уровне (он может анализировать сотни и даже тысячи факторов и, например, показывать нам среди 10 до шестидесятой возможных молекул те 10, на которых нужно сосредоточить усилия, чтобы вылечить определенную болезнь). Что касается определения искусственного интеллекта, то я думаю, что лучше принять стандартное, чтобы не столкнуться с трудностями при совместной работе. Тот, что дан Европейским союзом, может быть немного многословным, но он гарантированно продлится годами. Что касается меня, то я часто использую выражение «математико-цифровые инструменты», чтобы обобщить все инструменты, которые мы используем для создания ИИ-решений».

Кто такой Вальтер Фракаро? И как бы вы охарактеризовали себя в целом, а также в связи с вашей деятельностью по развитию «Искусственного интеллекта»?
«Мне гораздо проще описать ИИ! Скажем, вся моя профессиональная карьера, которой сейчас почти сорок лет, прошла в сфере информационных технологий. Я начал как ученик, сначала стал частным менеджером, а затем государственным, я основал две компании в этом секторе. Больше всего мне повезло работать с великими мастерами, людьми, которые подтолкнули меня к проявлению определенного критического чутья и к решению проблем, улавливая их ключевую точку. В этом смысле, если упомянуть только одно имя, я цитирую профессора Джанфранко Биларди, с которым я имел удовольствие работать ежедневно в течение трех лет, когда я был директором Падуанского университета: например, он учил применять логику в глубокой и острый путь. Достаточно ли я узнал, еще предстоит увидеть! Он из тех людей, кто не любит быть в центре внимания, но в области теоретической информатики, той, что толкает технологии вперед и требует максимальной логической отдачи, он известен во всем мире, открыв двери для мышления, казалось бы, противостоять всем усилиям человеческого разума. Что касается искусственного интеллекта, то я пришел туда из своей профессии, ИКТ, и из моей страсти, науки. Применение искусственного интеллекта к научным исследованиям — главный результат, полученный за последние несколько десятилетий, поскольку это выражение было изобретено, когда оно означало нечто иное, чем сегодня. Сегодня я объединяю этот опыт с многолетним опытом разработки и предоставления ИТ-решений для компаний всех типов, размеров и секторов, чтобы максимально использовать ИИ, который является инструментом для улучшения бизнеса, который остается целью. И сегодня, как никогда раньше, улучшать компании означает улучшать мир: если мы хотим устойчивого развития, мы должны сделать эту простую концепцию своей собственной».

Что вы можете рассказать нам о SAIHUB «Сиенском центре искусственного интеллекта»? Какова его институциональная миссия, а также миссия партнеров и членов-основателей, и как они все вписываются в траекторию роста ИИ?
«В Сиене есть экономический район, связанный с науками о жизни, которому нет равных в Европе по концентрации знаний и навыков в исследованиях и разработках новых лекарств, медицинских устройств, методов и технологий для агропродовольственного сектора. Также есть университет, который имеет уровни передового опыта в тех же областях и в области искусственного интеллекта. Именно на этой основе пару лет назад Фонд Монте-дей-Паски-ди-Сиена начал думать о создании центра, посвященного ИИ, чтобы поощрять внедрение этих методологий в секторе наук о жизни, чтобы укрепить экономику, привлекающую людей. , компании и капитал в область, способную гарантировать положение международного превосходства экосистемы Сиены и Тосканы и в будущем. Как только идея была предложена FMPS, сразу же к ней присоединились Сиенский университет, Фонд наук о жизни Тосканы, муниципалитет Сиены и Confindustria Toscana Sud. В этот момент и с той же ролью основателя была создана бизнес-сеть SAIHub, к которой сегодня принадлежат около тридцати компаний со всей Италии и за ее пределами: недавно к ней присоединилась компания Moresi.com из Тичино, которая вместе с итальянцем создала Tecnoscientia, базирующаяся в SAIHub. Мы посвящены различным мероприятиям, направленным на молодежь и бизнес. Этим летом мы организовали первую итальянскую летнюю школу по искусственному интеллекту и наукам о жизни: девяносто девочек и мальчиков, только что закончивших четвертый год средней школы, смогли бесплатно принять участие в пятидневном ознакомительном курсе по этим предметам. Нашей целью было, во-первых, создать общественное сознание и, во-вторых, сделать молодых людей увлеченными наукой, чтобы, возможно, они могли поступить в Сиенский университет и стать исследователями завтрашнего дня. Мы снова предложим эту инициативу следующим летом, и мы ожидаем, по крайней мере, 200 мальчиков и девочек. Кроме того, мы финансировали несколько сотен тысяч евро стипендий для лучших университетских талантов и, наконец, мы учредили экономические премии (до 10.000 XNUMX евро каждая) для тех, кто, получив степень магистра или доктора наук, поступает в университет. команды компаний «сети» и оставаться там не менее одного года. Эта последняя инициатива направлена ​​на то, чтобы эти молодые люди поняли, что в Сиене есть возможности для развития их научных и карьерных знаний, которые не уступают тем, которые можно найти за границей. Таким образом, они могут выбрать выезд за пределы Италии, но они знают, что их к этому не принуждают, и в любом случае, когда они захотят вернуться, они смогут найти землю, готовую дать процветание их способностям. Затем мы начали оказывать финансовую помощь проектам ИИ, представленным различными компаниями в «сети» в сотрудничестве друг с другом. Семь из этих проектов совместно с Сиенским университетом получили региональное финансирование в виде нескольких исследовательских грантов.

И Италия дает зеленый свет плану искусственного интеллекта

Какова «высшая точка», достигнутая в настоящее время искусственным интеллектом, цель, выше которой ему пока не удалось пройти? Вопрос применим ко всему миру и к Италии…
«В данном случае ответ может быть только субъективным. А пока мы могли бы начать с самых высоких ценностей: например, со спасением человеческих жизней. В этом случае правильно задуматься о том, насколько актуальным был ИИ в исследованиях и разработках вакцин против COVID и препаратов для борьбы с ними. Создание эффективных вакцин менее чем за год было бы невозможно без вклада искусственного интеллекта. Как сказал Рино Раппуоли, выдающийся итальянский ученый и авторитет в мировой вакцинологии, если когда-либо следующий вирус будет угрожать человечеству, как это делает Коронавирус, благодаря ИИ мы сможем определить характеристики необходимой вакцины в течение 24 часов после заражения. момент, когда мы узнаем его ДНК. Все еще оставаясь в сфере здравоохранения, давайте попробуем подумать о том, что означает «персонализированная медицина». Сегодня мы все используем одни и те же лекарства, мужчины и женщины, молодые и старые, где бы в мире мы ни жили (по крайней мере, там, где лекарства доступны…) и независимо от наших привычек, диеты, окружающей среды. Так случается, что мы идем к врачу, он приказывает нам принимать две таблетки в течение семи дней, а затем мы идем в аптеку и покупаем упаковку, в которой содержится 30. Чистые отходы производить, упаковывать, распределять, утилизировать излишки. Персонализированная медицина, доступная в течение нескольких лет благодаря ИИ, будет излечивать нас лучше, потому что лекарство будет производиться для каждого пациента в той мере и в той форме, которая ему больше всего подходит. Лечение таким образом даст лучшие результаты, а значит, меньше шансов попасть в больницу и, если вам нужно туда попасть, оставаться там меньше времени, тем самым уменьшая потребность в огромных зданиях, которые нужно обогревать зимой и охлаждать летом, с ужасающие затраты на техническое обслуживание, загрязнение окружающей среды, землепользование и т. д. и т. д. Расходы на здравоохранение составляют 10% мирового ВВП, поэтому каждая экономия стоит миллиарды: с ИИ мы можем сэкономить много, а также лучше заботиться о гораздо большем количестве людей. Я говорю «ИИ» для простоты, но давайте всегда помнить, что это средство: люди фиксируют результаты, применяя изобретательность и совесть. Ни искусственный интеллект, ни человек не творят чудес, но если одно хорошо использует другое, то можно достичь великих целей. Сегодня все население мира, в его экономической, социальной и политической составляющих, вовлечено в «переход», т. е. путь к системе, которая создает посредством устойчивости условия, в которых человеческая жизнь улучшается, не ухудшая тем самым жизнь человека. всей планете, как мы это делали в течение последних полутора столетий. ИИ — это инструмент, который может очень помочь в этом путешествии».

Что вы думаете о Стратегической программе искусственного интеллекта на 2022–2024 годы, которая является результатом совместной работы Министерства университетов и исследований, Министерства экономического развития и Министерства технологических инноваций и перехода к цифровым технологиям в Италии, запущенной с Палаццо Киджи? Убеждены ли вы во всех доведенных до сведения общественности двадцати четырех программных пунктах, в соотношении между средствами и целями или внесли бы коррективы в какой-либо из них?
«Прежде всего надо сказать, что писать ту Программу, должно быть, было совсем непросто, и это надо учитывать при ее критике, потому что работу других часто недооценивают, думая, что легче было бы сделать ее лучше. . Сказав это, я считаю, что этот документ, имея направление, движется в правильном направлении. Тогда задача законодателя будет заключаться в том, чтобы его применение действительно способствовало развитию компаний, которые создают решения ИИ, и тех, кто будет их использовать. По сравнению с Программой, я думаю, было бы еще лучше, если бы она включала в себя международные дебаты по этическим вопросам, связанным с искусственным интеллектом. Я убежден после многих лет работы и непрерывного диалога со многими операторами, экспертами и компаниями, что реальный успех любого проекта ИИ тесно связан с глубиной этического анализа контекста, в котором он находится, и его возможных результатов». .

Качественный форум для ИИ и бизнеса

Как обстоят дела, сколько на самом деле «разума» и сколько «хитрости» в ИИ? Является ли человек в то же время пределом и двигателем попытки воспроизвести синапсы мозга, мерилом всего?
«Короткий ответ: «если это разумно, то это не искусственно; «если это искусственно, то не разумно», как говорит Лучано Флориди. Более длинный ответ: «если мы сознательно говорим об интеллекте, то нам нужно точное определение хотя бы человеческого интеллекта, а его у нас пока нет». Трудно определить, что такое разум, кроме как по отношению к сознанию, и поэтому дело становится еще более сложным. Тогда мы должны встать на пути желаний, которые создают цели. Можно сказать одно: на сегодняшний день у машин нет ни совести, ни желаний, ни целей, следовательно, и разума. «Искусственность» остается, да. Данте Алигьери использовал это слово для обозначения чего-то очень ценного в материалах и мастерстве его строителя, совершенного в его наблюдаемости. Кто знает, захочет ли он увидеть, как мы приспособили математику и электроны к решению проблем, которые слишком велики для нашего разума. ИИ остается явно человеческим явлением, и я боюсь, что придание ему такой силы, что он может напугать нас, — это способ скрыть нашу ответственность. Как и любая технология, изобретенная человеком, даже если это была первая палка, с помощью которой один из наших древних предшественников заставил животное саванны сбежать, мы несем ответственность за ее использование. И чем лучше мы его используем, тем больше мы становимся «разумными». Что касается синапса, мне кажется, что мечта двадцатого века об использовании электроники для имитации мозга больше не является целью искусственного интеллекта, по крайней мере, не в его практической и промышленной форме. Это называлось «кибернетика», помните? Это было похоже на экскурсию по нашей культурной истории: для греков Кибернетес был тем, кто управлял кораблем, а, следовательно, и городом... отпечаток наших предков. Мы всегда управляем кораблем, но иногда мы боимся самого корабля больше, чем моря. ИИ — это всего лишь новейшая модель лодки: перед ним — океан неведомых нам вещей и нашей совести. Для этого нам нужна этика, компас, чтобы знать, где мы находимся, и решать, куда идти. Мы — «мера всех» не потому, что мы лучше других существ, а потому, что у нас нет другого выбора. Мы можем только смотреть на Вселенную со всеми нашими ограничениями, и можно сказать, что мы являемся видом, который лучше всего знает, как использовать технологии, чтобы выйти за их пределы».

Что такое машинное обучение (также называемое «машинным обучением» на английском языке) и почему это направление искусственного интеллекта приобретает все большее значение? Перешло ли программирование в обучение, в результате чего робототехника стала настоящей областью применения этих технологий?
«Начнем с конца. Робот происходит от чешского «Robota», что означает «тяжелый труд», а до этого означало «подневольное состояние, рабство». Когда я провожу свои семинары в компаниях, я всегда спрашиваю тех, кто слушает меня, какую работу эта технология позволила нам доверить машинам, к которым они хотели бы вернуться, чтобы выполнять их вручную. Ведь никто. Потому что мы, люди, не любим работу, понимаемую как принудительное усилие. В Библии работа — это наказание, которое Бог налагает на Адама, и в разных языках слово, означающее «работа», всегда имеет корень, говорящий о рабстве. В конце концов, «машинное обучение» — это способ, который мы придумали для передачи тому, что мы называем «опытом», машинам. Ребенку достаточно наблюдать за тремя кошками, чтобы назвать следующую, которую он увидит, «кошкой»; компьютеру нужно показать тысячи и тысячи фотографий кошек, прежде чем он распознает одну из них и идентифицирует ее как «кошку». Только то, что тысячи или миллионы фотографий компьютер просматривает за несколько секунд и способен делать то же самое с огромным количеством числовых данных или с книгами и научными текстами: для различения кошек это бесполезно, но нас интересует факт, который может помочь исследователю, потому что он смог прочитать в одно мгновение такое количество информации, которое люди не смогли бы даже просмотреть за сотни лет жизни. Подводя итог, мы убеждаемся, что тяжелая работа, которая нам не нравится и в которой мы даже не очень хороши, доверена машине, и мы используем «машинное обучение» (и подобные методы), чтобы позволить ей получить преимущество. необходимый опыт, чтобы сделать это правильно. Он работает, мы думаем».

Станут ли квантовые суперкомпьютеры и квантовая физика решающим поворотным моментом в теоретическом и практическом росте искусственного интеллекта или есть другой путь? И почему?
«Квантовые суперкомпьютеры обладают совершенно уникальными возможностями и используются и будут использоваться для решения другого порядка задач, лишь изредка похожих на те, с которыми мы сталкиваемся в области ИИ. Возможно, когда-нибудь они пригодятся для моделирования мозга, биологические и электрические функции которого, безусловно, больше похожи на работу квантового компьютера, чем на работу обычного компьютера, но ИИ, о котором мы думаем сегодня и в будущем Ближайшее будущее связано с формами обычных вычислений, которые мы используем в наших смартфонах или персональных компьютерах. И даже в этом случае нам еще предстоит пройти долгий путь».

Швейцарская сеть компетенций в области искусственного интеллекта

Должна ли реализация ИИ или ИИ, что бы вы ни предпочли, действительно подвергаться этическим и моральным ограничениям, или возможная конкуренция машин и людей является ложным вопросом? Найдет ли homo sapiens в искусственном интеллекте альтер-эго, способное восстановить баланс с природой?
«Хорошие вопросы, особенно если их задавать подряд! «Возможная конкуренция машин с людьми» не находится в центре внимания того, что мы называем этикой ИИ. В частности, этика, то есть правила, в соответствии с которыми мы соглашаемся получать выгоду, а не ущерб от нашего индивидуального и социального поведения, мы должны иметь возможность анализировать контекст, в котором мы применяем искусственный интеллект, чтобы иметь возможность предсказать конечные результаты. и избегать отрицательных. ИИ имеет много этических аспектов, которыми необходимо управлять. Один из них, наиболее известный, но и наиболее обсуждаемый, и для которого у нас уже есть адекватные средства и модели поведения, — это неприкосновенность частной жизни. Таким образом, не должно быть возможности обращаться к данным, чтобы отличить те, которые описывают конкретного человека, за исключением особых условий, контролируемых и принимаемых человеком. Однако есть и более тонкие аспекты. Мы должны, например, не допустить, чтобы компьютер воздействовал на данные, используя ошибочные методы людей, такие как склонность к предвзятости в своем выборе. Кроме того, мы должны избегать того, чтобы применение Искусственного Интеллекта, обладающего собственной автономией в поиске способов дать ответы на поставленные проблемы, не выявило бы четко логического пути, которым он руководствовался и привел к определенному результату. Можно продолжать, но суть остается: чем серьезнее ущерб, который может нанести машина при автоматическом применении результата своего анализа, тем важнее наличие человека, принимающего решение о ее выполнении. Мы можем попросить машину объяснить, «как» она пришла к определенному решению, но ответственность за его применение всегда должна возлагаться на человека. Всегда ли можно создать это условие? Нет. Следовательно, мы должны быть готовы рассматривать машинные ошибки как ответственность человека. Это не новость: разве не так мы поступаем, например, когда заводское устройство ранит рабочего? Нас пугает то, что мы не боимся воли прессы, а также приписываем это машине, которая, как мы верим, обладает «интеллектом»: в этом нет смысла, и мы объясняли это до сих пор, но это Для нас естественно так думать, потому что в нашем опыте разум и совпадут. Homo sapiens, alter ego, природа… Маурицио Феррарис хотел бы ответить здесь! Я ограничиваюсь тем, что скажу, что глобальное осознание того, что наш способ достижения прогресса, который привел нас к тому, что последние три-четыре поколения людей живут в гораздо лучших условиях, чем тысячи предшествующих им, несовместим с защитой планеты и будущее наших потомков — первое великое событие этого столетия. Нам нужно сосредоточиться на наших научных и, как следствие, технологических возможностях, чтобы изменить этот курс. Мы знаем, что у нас есть инструменты для улучшения условий жизни людей без дальнейшего ущерба для других видов и самой Земли, и что некоторые еще незрелые технологии скоро дадут нам дополнительные возможности. На этой основе, через ЦУР ООН, мы заключили великий пакт между более чем 190 странами, чего раньше никогда не было.

К 2030 году Китай станет первым игроком в сфере искусственного интеллекта, обогнав Европу и Соединенные Штаты Америки: как повлияет эта трансформация на геополитику и мировую экономику? Пройдет ли через эти исследования «охота» за максимальной экологической устойчивостью и борьба с глобальным потеплением, выявление новых источников энергии?
«Правильный вопрос, который начинается с количественных показателей. Мы всегда тесно связываем эти анализы с тем, когда различные страны (или «империи», как их называет венецианский философ, который сегодня вызывает много споров, но который делает правильный анализ по этому вопросу) инвестируют в искусственный интеллект. Кажется, будто мы попали во времена канонерских лодок, где миром правил тот, у кого были самые большие. Я не уверен, что так обстоят дела сегодня, и еще менее уверен, что эта точка зрения сохранится на долгие годы. Мне кажется, что навыки и способность использовать их с пользой — это не просто количественный вопрос. Я много работаю в Сиене, центре с населением 50.000 2012 человек, до которого трудно добраться даже на поезде, но благодаря культурной, предпринимательской и научной структуре этот небольшой средневековый город остается одним из мировых центров исследований в области наук о жизни. В скольких других местах мира условия были более благоприятными? Очень много, но Сиена есть и работает, чтобы оставаться на вершине. Можно ли воссоздать нечто подобное, положив на стол миллиарды евро, долларов или юаней? Может быть, да, но, возможно, лучше взять часть этих денег и приехать в Сиену, чем надеяться воссоздать ее за несколько лет. ИИ — это прорывной инструмент с большими возможностями: вот почему мы так много говорим об этом. То же самое было с электричеством, с поездом, с Интернетом: одни страны вложили больше, чем другие, но мне не кажется, что сегодня, спустя десятилетия или столетия после появления тех технологий, у других нет их. Я по себе понимаю, что это прочтение, имеющее определенную долю наивности, но мне кажется еще более наивным, поскольку у нас их нет, говорить «мы должны инвестировать триллионы миллиардов, как это делает Китай» или, что еще хуже, , чтобы сказать, что тогда мы должны расстаться, превратить Италию в фабрику праздников и стать, как писал Марко Каттанео, директор «Le Scienze» в XNUMX году, «страной официантов». Что касается последних вопросов, то я считаю, что именно благодаря тому, что мы сказали до сих пор, Италия (а также Швейцария по аналогичным причинам) имеет все шансы занять значительное место в глобальном будущем. Не как политическая сила, а как культурное влияние. Чем быстрее установится устойчивость, тем больше силы приобретут знания и способность создавать новые способы их использования, особенно в области наук о жизни, которые остаются научно-экономическим сектором, который может легче всего помочь нам в достижении ЦУР или устойчивого развития. Цели Организации Объединенных Наций…».

Будущее уже здесь: всегда нужно быть понятым, никогда не теряться…