GreenPT: Нидерландски стартъп осветява енергийния отпечатък на AI запитванията

Въпреки нарастващата популярност и лекота на използване на чатботове с изкуствен интелект като „ЧатДжиПиТи“, екологичното им въздействие остава до голяма степен неясно. Водещите доставчици на ИИ-решения често пазят в тайна данните за консумацията, въпреки че е добре известно, че изкуственият интелект е енергоемък и изисква значителни водни ресурси.

В този контекст, нидерландската информационна платформа „Ню“ представи иновативна „зелена“ алтернатива на „ЧатДжиПиТи“. Тя е разработена от Роберт Койс и Кас Бурграф в Утрехт, които преди година и половина основават „ГрийнПиТи“ (GreenPT). Техният ИИ-чатбот е създаден с мисията за пълна прозрачност, като показва екологичния отпечатък от всяко свое използване.

За разлика от масовите представи за ИИ компании, които включват огромни центрове за данни, изпълнени с шумни сървъри, „ГрийнПиТи“ се помещава в необичайна обстановка. Офисът им е разположен в просторна сграда в сърцето на Утрехт, бивша печатница, която все още носи по-скоро духа на творческа работилница, отколкото на високотехнологична корпорация.

Койс и Бурграф са дългогодишни професионалисти в технологичния сектор, като през последните няколко години активно работят с изкуствен интелект. Когато обаче клиентите започнали да задават въпроси относно екологичното въздействие, те не можели да дадат конкретен отговор. „Всъщност не знаехме“, споделя Койс. „Тогава на Кас му хрумна идеята да използваме модели на изкуствен интелект, върху които имаме по-голям контрол. Сега вече можем да изчислим какво е енергопотреблението.“

ИИ под собствен контрол

Сървърите, които поддържат работата на „ГрийнПиТи“, са локализирани във Франция при компанията „Скейлуей“ (Scaleway). Там се полагат усилия за максимално използване на зелена енергия, а останалата част се осигурява от ядрена енергия. „Тя излъчва много малко въглеродни емисии“, обяснява Койс. В бъдеще „ГрийнПиТи“ планира да премести дейността си във Финландия, търсейки още по-устойчиви алтернативи.

За изграждането на своя изкуствен интелект, „ГрийнПиТи“ прилага така наречените „отворени тегла“ (open weight) модели. Това са предварително обучени ИИ-модели, които са готови за употреба и могат да бъдат адаптирани според специфичните нужди на потребителя. Койс подчертава, че „данните за потреблението вече не се споделят с първоначалния създател. Веднага щом сте изтеглили модела, той работи изцяло под ваше собствено управление.“

Това е ключов аспект, тъй като „ГрийнПиТи“ използва и китайски модели като „Кими“ (Kimi) и „Джи Ел Ем“ (GLM). Тяхното основно предимство е, че изискват значително по-малко изчислителна мощност в сравнение с моделите на „големите играчи“ като „ЧатДжиПиТи“ и „Клод“ (Claude).

Устойчив ИИ не съществува

Самите Койс и Бурграф са първите, които признават, че истински устойчив изкуствен интелект не може да съществува. Те правят паралел с шофирането – най-устойчивият начин да караш кола е изобщо да не караш. Например, двамата не разполагат с информация за енергопотреблението и въглеродните емисии, генерирани по време на обучението на ИИ-моделите, използвани от „ГрийнПиТи“. По този въпрос те са напълно открити. Бурграф доразвива сравнението: „Можем да посочим разхода на гориво, но не и как е конструирана колата.“

Потребителите на „ГрийнПиТи“ могат да видят консумацията на ИИ директно в чатбота. До прозореца за чат е разположен малък измервателен уред, който показва енергията, изразходвана при всеки въпрос. Първоначално се появява весел емотикон, но с увеличаване на натоварването в разговора, фигурката става все по-тъжна. Когато лицето се превърне в пламъче, това сигнализира на потребителя, че разговорът е станал изключително енергоемък.

За тези, които предпочитат конкретни данни, кликването върху индикатора разкрива точните въглеродни емисии и броя на изразходваните киловатчаса. Койс признава: „Все още обмисляме как да направим това по-разбираемо“, като например да посочват, че „потреблението на електроенергия се равнява на пълното зареждане на телефона ви.“

„ГрийнПиТи“ активно предоставя на своите потребители съвети за намаляване на енергопотреблението в собствените си модели. По-икономично е да се започва нов разговор редовно, вместо да се поддържа един и същ чат постоянно. Причината е, че с всеки нов въпрос се изпраща целият разговор, което води до по-високо енергопотребление при по-дългите разговори, тъй като изчислителната мощност нараства.

Амбиции за най-големи в света

В бъдеще, вместо традиционни абонаментни кредити, „ГрийнПиТи“ може да премине към модел, базиран на енергията. Това би позволило на потребителите да извличат повече от ИИ-модела в моменти, когато натоварването на електропреносната мрежа е по-ниско, и обратното.

Компанията проучва и други методи за редуциране на цифровия отпечатък, като използването на още по-ефективни модели и възможности за съкращаване на потребителските въпроси преди тяхното изпращане. По-кратките въпроси водят до по-ниска консумация на енергия от изкуствения интелект.

Към момента, по данни на „ГрийнПиТи“, компанията обслужва около две хиляди клиенти. Те са предимно от културния сектор, включително музеи и концертни зали, както и неправителствени организации. „Вижда се, че там има много хора, които намират това за важно“, отбелязва Койс.

Амбициите на малката фирма от Утрехт са значителни. „Искаме да станем най-големият доставчик на устойчив ИИ в света“, заявява Койс. „Мисля, че това е възможно. Все още сме само в началото.“

„ГрийнПиТи“ се позиционира като пионер в стремежа към по-прозрачен и енергийно осъзнат изкуствен интелект. Чрез иновативни решения и ангажимент към устойчивост, нидерландският стартъп предлага на потребителите възможността да разберат и контролират екологичния отпечатък на своите ИИ взаимодействия, проправяйки път към по-отговорно технологично бъдеще.