Гарвард исследует науку и последствия генеративного ИИ
Навигация по генеративному ИИ в Гарвардском университете
Как журналист, я часто сталкиваюсь с новыми технологиями, которые обещают произвести революцию в различных областях. Генеративный ИИ (GenAI) выделяется не только своими возможностями, но и надежными этическими и практическими рамками, которые такие институты, как Гарвардский университет, строят вокруг его использования. Это не просто вопрос технологического мастерства; это вопрос ответственной интеграции в академическую и профессиональную жизнь, гарантирующий, что инновации не опередят осторожность.
Источник: Художественное представление генеративного ИИ с красочными, взаимосвязанными узлами, предполагающими поток данных и креативность.
Краткое изложение
- Генеративный ИИ (GenAI) преобразует исследования, образование и рабочую силу, создавая новый контент из больших наборов данных.
- Гарвардский университет предоставляет обширные ресурсы и рекомендации по ответственному использованию инструментов GenAI в академических и профессиональных учреждениях.
- Этичные соображения, включая академическую добросовестность, конфиденциальность данных и авторское право, находятся в центре подхода Гарварда к GenAI.
- Междисциплинарные исследования Гарварда в области ИИ охватывают информатику, общественное здравоохранение, медицину, право, государственную политику и экономику.
- Конкретные политики и одобренные инструменты обеспечивают безопасное и соответствующее нормам использование GenAI для работы, связанной с Гарвардом.
- GenAI оказывает значительное влияние на рабочую силу, потенциально выравнивая иерархии и изменяя распределение задач, а также влияя на гендерные различия в применении технологий.
Генеративный ИИ в исследованиях и академической сфере
Технологии генеративного ИИ (GenAI) создают новые возможности для продвижения исследований и науки, позволяя моделям обучаться на больших наборах данных, а затем генерировать новый контент, такой как текст, изображения, музыка, видео и код. Гарвардский университет активно предоставляет ресурсы и рекомендации для исследователей и ученых о том, как эффективно использовать эти инструменты GenAI. Это руководство регулярно обновляется по мере развития самих технологий.
Приверженность Гарварда исследованиям в области искусственного интеллекта является одновременно новаторской и междисциплинарной. Исследования охватывают различные области, включая информатику, общественное здравоохранение, медицину, право, государственную политику, экономику и естественные науки. Например, Институт Кемпнера по изучению естественного и искусственного интеллекта функционирует как динамичное сообщество студентов, ученых и инженеров, посвященное изучению фундаментальных принципов интеллекта как в естественном, так и в искусственном контекстах. Институт ставит своей целью использовать эти знания для разработки передовых технологий. Аналогичным образом, Гарвардская инициатива в области научных данных фокусируется на понимании и развитии науки о данных.
Навигация по редакционным политикам и этическим вопросам
Однако быстрое развитие GenAI также влечет за собой проблемы, особенно в отношении академической добросовестности и публикаций. Академические издатели придерживаются различных политик в отношении использования ИИ в исследовательских работах. Исследователи должны ознакомиться с конкретными руководящими принципами своего целевого издателя, чтобы подтвердить допустимое использование ИИ. Примеры издателей с такими руководящими принципами включают Elsevier, JAMA, PLOS ONE, Sage, Springer Nature, и Science. Большинство академических издателей требуют раскрытия информации об использовании инструмента ИИ в исследовательских работах, часто указывая, что это раскрытие должно появиться в разделах методов или благодарностей. Ведущие руководства по стилю, такие как APA Style, The Chicago Manual of Style и MLA Style Guide, , также предлагают рекомендации по цитированию контента, сгенерированного ИИ. Национальные институты здравоохранения (NIH) советуют проявлять осторожность при использовании ИИ в заявках на гранты, предупреждая о рисках, таких как плагиат или фальсификация. Другие риски, связанные с системами ИИ, включают дезинформацию, кражу личных данных, манипуляции, уязвимости безопасности, непредсказуемость и чрезмерную зависимость.
ИИ в образовании и управлении в Гарварде
Гарвардский университет поддерживает ответные эксперименты с инструментами генеративного ИИ. HUIT, Гарвардские университетские информационные технологии, предлагает System Prompt Library и различные ресурсы, охватывающие авторское право и интеллектуальную собственность, безопасность и конфиденциальность данных, а также поддержку исследований. Крайне важно, что HUIT также обрабатывает запросы на оценку рисков поставщиков.
https://github.com/ncwilson78/System-Prompt-LibraryПолитика и руководства по использованию ИИ
Руководства Гарварда предписывают, что общедоступные инструменты GenAI не должны использоваться для работы в Гарварде, связанной с конфиденциальными данными (уровень 2 и выше). Сотрудники Гарварда должны получить одобрение на использование инструментов GenAI в работе, связанной с Гарвардом. HUIT предоставляет сравнительную таблицу для инструментов GenAI, указывающую уровень конфиденциальности данных Гарварда, для которого эти инструменты одобрены. Версии инструментов GenAI, предоставленные Гарвардом, одобрены для уровня конфиденциальности данных 3 и ниже.
Одобренные инструменты генеративного ИИ
Примеры одобренных инструментов GenAI для общего использования включают Harvard AI Sandbox, Gemini через учетную запись Harvard Google, Copilot через учетную запись Harvard Microsoft 365, ChatGPT Enterprise и Adobe Firefly. Harvard AI Sandbox позволяет экспериментировать с несколькими большими языковыми моделями (LLM) в безопасной среде. Gemini, интегрированный с Google Workspace, предлагает функции чата, поиска, программирования, написания, анализа данных, генерации изображений и перевода. Copilot, интегрированный с Microsoft 365, предоставляет аналогичные функции. ChatGPT Enterprise может генерировать текст, код и изображения, а также предлагает возможности настройки. Adobe Firefly генерирует изображения и текстовые эффекты на основе ключевых слов или описаний и интегрируется с приложениями Adobe.
Источник: freepnglogo.com
Adobe Firefly - один из одобренных инструментов GenAI, генерирующий изображения и текстовые эффекты из ключевых слов и интегрирующийся с другими приложениями Adobe.
Инструменты ИИ для разработчиков
Для разработчиков инструменты ИИ включают помощников ИИ и доступ к API для интеграции LLM в приложения. Эти инструменты облегчают создание и настройку чат-ботов, разработку и тестирование приложений, доступ к обучению и развертыванию моделей, а также программирование и предиктивную аналитику. Гарвардский портал API для ИИ и Microsoft Azure AI являются двумя такими примерами.
Генеративный ИИ в преподавании и обучении
Факультет искусств и наук (FAS) исследует, как инструменты GenAI могут открыть новые пути для преподавания и обучения. Это включает улучшение доступа к количественным методам для областей, не требующих интенсивных вычислений.
❝ переосмысление образования с помощью генеративного ИИ ❞
Профессор физики имени Сэмюэля К. Мончера и старший советник по искусственному интеллекту
FAS предлагает часы для консультаций по генеративному ИИ, проводя неформальные сессии для сотрудников, у которых есть вопросы по поддерживаемым Гарвардом инструментам GenAI.
ИИ и государственная политика
Гарвардская школа Кеннеди предлагает курсы, исследующие пересечение генеративного ИИ и государственной политики, предоставляя понимание науки GenAI, ее эффективного применения и ее будущего формирования.
Влияние на рабочую силу и общество
Генеративный ИИ несет существенные возможности наряду со значительными проблемами в экономических, регуляторных, этических, экологических и социальных областях. Рабочий документ Гарвардской школы бизнеса (HBS) под названием «Генеративный ИИ и природа труда» исследует влияние GenAI на профессиональный ландшафт. В этом документе анализируется, как GitHub Copilot влияет на распределение задач разработчиков программного обеспечения, показывая сдвиг в сторону основных задач программирования и от управления проектами. Исследование, проведенное Хоффманном и др. (октябрь 2024 г., пересмотрено в апреле 2025 г.), выявляет повышенную независимость работы и исследований в качестве основных механизмов, при этом большие эффекты наблюдаются у лиц с относительно низким уровнем навыков. Эти результаты предполагают потенциал ИИ для трансформации рабочих процессов и выравнивания организационных иерархий в экономиках, основанных на знаниях.
Источник: it-labs.com
В работе HBS проанализировано, как GitHub Copilot перенаправляет разработчиков программного обеспечения на основные задачи программирования и от управления проектами, выявляя измененные рабочие процессы.
Гендерные разрывы и генеративный ИИ
Еще один рабочий документ HBS, «Глобальные данные о гендерных разрывах и генеративном ИИ» Отиса и др. (октябрь 2024 г., пересмотрен в августе 2025 г.), исследует гендерные различия в использовании GenAI. Исследование выявило почти повсеместные гендерные различия в применении GenAI по регионам, секторам и профессиям, даже при равном доступе к технологии. Такое устойчивое глобальное неравенство может привести к созданию систем, обученных на данных, которые недостаточно отражают предпочтения и потребности женщин, потенциально усугубляя существующие гендерные разрывы в применении технологий и экономических возможностях.
Использование потенциала ИИ и устранение недостатков
Эксперты Гарварда исследуют, как ИИ может быть лучше понят и использован для избежания потенциальных ловушек. Искусственный интеллект трансформирует такие области, как здравоохранение, образование, трудоустройство и психическое здоровье. Эксперты, связанные с Гарвардом, изучают преимущества и потенциальные недостатки ИИ. Они обсуждают, как ИИ может изменить рынок труда, расширяя и автоматизируя роли, и какие навыки, связанные с ИИ, должны приобрести работники. Дебаты также сосредоточены на том, компрометирует ли ИИ критическое мышление. В здравоохранении обсуждается, кто должен регулировать ИИ для защиты пациентов, избегая при этом ненужных препятствий. Исследователи изучают работу и алгоритмические секреты чат-ботов с ИИ.
Потенциальные приложения и риски ИИ
Применение ИИ обширно и продолжает расширяться, затрагивая критические секторы как с обещаниями, так и с опасностями. Исследователи Гарварда находятся на переднем крае понимания этой динамики.
| Область | Потенциальные приложения ИИ | Связанные риски/соображения |
|---|---|---|
| Здравоохранение | Диагностика заболеваний, прогнозирование исходов лечения пациентов, расшифровка эпилепсии, прогнозирование возраста мозга и риска деменции, выявление вспышек вирусов, создание заметок с помощью ИИ. | Необходимость строгого регулирования для защиты пациентов, возможность неправильной диагностики, этические проблемы с конфиденциальностью данных, обеспечение равноправного доступа. |
| Образование | Персонализированные ИИ-репетиторы, улучшение доступа к количественным методам, трансформация обучения в общественных колледжах, дополнение обучения. | Влияние на критическое мышление, возможность чрезмерной зависимости, обеспечение справедливости и доступности, потребность в обучении и поддержке учителей. |
| Рабочая сила | Автоматизация и расширение ролей, изменение распределения задач (например, программирование по сравнению с управлением проектами). | Потеря рабочих мест, необходимость повышения квалификации/переквалификации, усугубление гендерных разрывов, возможность алгоритмического предвзятости при найме/оценке производительности. |
| Творческие области | Создание историй, дизайн декораций и костюмов для оперы, цифровые инструменты для сортировки данных. | Проблемы авторского права, оригинальность контента, сгенерированного ИИ, влияние на человеческое творчество, возможность злоупотребления. |
| Государственная политика | Укрепление демократии, улучшение коллективного принятия решений. | Дезинформация, манипуляции, уязвимости безопасности, этическое управление, подотчетность систем ИИ. |
Заключение
Генеративный ИИ является преобразующей силой, изменяющей исследования, образование и мировую рабочую силу. Гарвардский университет, благодаря своим междисциплинарным исследованиям, обширным ресурсам и развивающимся руководствам, активно участвует в ответственном управлении этим новым технологическим ландшафтом. От этических соображений в академических публикациях до социальных последствий для гендерного равенства и труда, учреждение способствует созданию среды, в которой критическое исследование и ответственные инновации coalescing. Поскольку GenAI продолжает развиваться, усилия Гарварда по его этичной и эффективной интеграции будут иметь решающее значение для формирования его будущей траектории и обеспечения широкого распространения его преимуществ.
Что такое генеративный ИИ (GenAI)?
Генеративный ИИ — это тип искусственного интеллекта, который может обучаться на огромных объемах данных, а затем генерировать новый контент, такой как текст, изображения, музыка, видео и код, который похож на его обучающие данные.
Как Гарвардский университет поддерживает использование GenAI в исследованиях?
Гарвард предоставляет ресурсы и рекомендации для исследователей, включая библиотеку системных подсказок, политики по безопасности и конфиденциальности данных, а также оценки рисков поставщиков. Университет поощряет ответные эксперименты, подчеркивая этические соображения и соблюдение рекомендаций по академическим публикациям.
Каковы основные риски, связанные с использованием GenAI в академической работе?
Основные риски включают дезинформацию, плагиат, кражу личных данных, манипуляции, уязвимости безопасности и чрезмерную зависимость от инструментов ИИ. Исследователям рекомендуется раскрывать информацию об использовании инструментов ИИ и соблюдать рекомендации конкретных издателей.
Есть ли конкретные инструменты GenAI, одобренные для использования в Гарварде?
Да, Гарвард одобряет конкретные инструменты GenAI для общего использования, такие как Harvard AI Sandbox, Gemini (через учетную запись Harvard Google), Copilot (через учетную запись Harvard Microsoft 365), ChatGPT Enterprise и Adobe Firefly. Эти инструменты одобрены для уровней конфиденциальности данных 3 и ниже, с строгими правилами для конфиденциальных данных.
Как Гарвард реагирует на социальные последствия GenAI?
Исследователи Гарварда изучают влияние GenAI на рабочую силу, включая распределение задач и потенциальные гендерные различия. Гарвардская школа Кеннеди предлагает курсы по ИИ и государственной политике, уделяя особое внимание ответственной интеграции и этическому управлению.