Sivasubramanian даде перспектива на базата данни, казвайки на участниците, че висококачествените резултати от AI зависят от висококачествени данни и показване на функции, включително възможността за генериране на SQL от текстов вход за Amazon Redshift, (услуга за складиране на данни) и добавяне на векторно търсене към мениджъри на бази данни, включително OpenSearch serverless (обикновено наличен), MemoryDB за Redis (преглед), DocumentDB (обикновено наличен), очаквайте скоро Amazon Aurora и MongoDB. Vector Search също е на разположение за PostgreSQL чрез разширението на pgvector.
Защо е цялата дейност около векторното търсене? „Векторните вграждания се произвеждат от основополагащи модели, които превеждат текстови входове като думи, фрази или големи единици текст в цифрови изображения“, каза Сивасубраманиан. „Векторите позволяват на вашите модели по-лесно да намерят връзката между подобни думи, например, котка е по-близо до котенце или куче е по-близо до кученце.“
С други думи, добавянето на векторно търсене към мениджър на бази данни подобрява неговата пригодност за генеративен AI. Sivasubramanian каза, че AWS работи за „добавяне на векторни възможности в нашето портфолио“, така че трябва да очакваме повече от това.
Сивасубраманян също добави база данни, към която се придържаше Амазонка Q, o Помощникът, задвижван от AI, представи предишния ден от Selipsky. Той визуализира нова функция за редактора на заявки Redshift, наречен Amazon Q генеративен SQL. Потребителят обяснява какви резултати иска и Amazon Q генерира SQL. Даденият пример обаче беше доста основен, видът нещо, което DBA (администратор на база данни) или разработчик вероятно биха могли лесно да напишат за себе си. Тук може да има модел, че AI ще помогне повече с робството, отколкото с напредналата работа; но това е ранните дни.
Отговорен AI
Sivasubramanian визуализира нова функция на Titan, семейство модели, което е изключително за инструмента AWS Bedrock, наречен Генератор на изображения на Титан. Той започна с подкана за изображение на Игуана, след което я модифицира, като поиска фон на тропическите гори. “Можете да използвате модела безпроблемно [да] разменяте фонове, за да генерирате изображения на начина на живот, като същевременно запазвате основния предмет на изображението,” каза той.
Има някои очевидни случаи на употреба за това. Например в сайтове за електронна търговия, където потребителите могат да преглеждат продукти в персонализиран контекст, а по-късно видяхме пример, при който жена ремонтира дома си. Всичко обаче се чувстваше дезинфекцирано и е лесно да се мисли за случаи, в които AI генерираните изображения могат да бъдат използвани по измамен начин.
AWS беше една от няколкото компании, които се срещнаха с Белия дом по-рано тази година да обсъдят отговорния ИИ и да поемат редица доброволни ангажименти. Едно, разкрито от Sivasubramanian, е, че за да “промотира отговорното развитие на AI технологията, всички генерирани от Titan изображения идват с невидим воден знак. Тези водни знаци са предназначени да помогнат за намаляване на разпространението на дезинформация чрез предоставяне на дискретен механизъм за идентифициране на AI генерирани изображения.” Тези водни знаци са “проектирани да бъдат устойчиви на промени,” на прессъобщение държави.
Друга функция, наречена Guardrails за Amazon Bedrock, „помага на клиентите да прилагат предпазни мерки, персонализирани за техните генеративни AI приложения и приведени в съответствие с техните отговорни AI политики.“
Проблемът е, че разработчиците, които не се интересуват от Guardrails, няма да приложат предпазните мерки и е също толкова малко вероятно водните знаци да бъдат стабилно решение.
AWS е заела позицията, че приложенията, управлявани от AI, ще се превърнат в норма в много области. Слайд, показан тук често, с вариации, показва това, което AWS нарича Generative AI стека. В долната част е инфраструктурата: GPU, Trainium и Inferentia специализирани чипове, Nitro ускорено работа в мрежа и така нататък. Също така, в тази категория от Sivasubramanian е SageMaker, онлайн IDE за изграждане на персонализирани модели или внедряване на предварително обучени модели.
След това идват инструментите, и по-специално Bedrock, управлявана услуга, която предлага избор на Foundation Models (сега включително Клод 2.1, най-новото от AWS близък AI партньор Anthropic). Bedrock също поддържа функция, наречена Retreval Augmented Generation (RAG), която позволява на модела да включва контекстуални данни и допълнителни функции, наречени фина настройка и продължаващо предварително обучение, което поддържа модела актуален и го адаптира към конкретна индустрия или организация.
В горната част на стека са инструменти като Amazon Q и CodeWhisperer. Те не изискват от потребителя да знае за AI, но дават помощ, задвижвана от AI.
Въпреки че Amazon Q е може би най-известният старт в re:Invent, инструментите и инфраструктурните части на този стек са по-важни.®
