Как изграждаме
Инженерните практики, на които се основава работата ни, как използваме AI агенти за програмиране и как правим AI системите надеждни и отговорни.
AI променя начина, по който се създава софтуер, и това, което софтуерът може да прави. Отговорността за резултата обаче остава същата. Тук описваме практиките, които следваме във всеки проект, мястото на AI агентите за програмиране в тях и какво правим, за да бъдат AI системите надеждни.
Инженерни практики
Те важат за всеки проект, със или без AI.
- Писмени изисквания. Преди да започне разработката, уточняваме какво трябва да прави софтуерът, за кого и как ще проверим, че работи.
- Обосновани архитектурни решения. Избираме архитектура според мащаба, екипа и бюджета ви и записваме мотивите, за да имат следващите решения контекст.
- Автоматизирани тестове. Важното поведение на системата се проверява с автоматизирани тестове. Какво и колко подробно тестваме, зависи от проекта и рисковете.
- Преглед на кода (code review). Промените се преглеждат, преди да станат част от продукта, като по-рисковите получават повече внимание.
- Контролирано внедряване. Промените се внедряват на малки стъпки и с възможност за връщане към предишната версия, ако нещо се обърка.
- Сигурност от самото начало. Контролът на достъпа, защитата на ключовете и актуалните зависимости са част от работата, а не финална проверка.
- Документация и предаване. Настройката, решенията и експлоатацията са документирани, така че системата да може да се поддържа от нас, от вашия екип или от друг екип.
Разработка с AI агенти за програмиране
Използваме AI агенти за програмиране и сме разработили цели приложения по този начин, включително собствения ни продукт Cookamigo. Агентите работят в рамките на описаните практики, а не вместо тях.
- Ние решаваме. Определяме изискванията и архитектурата. Агентите могат да предлагат варианти, но ние ги сравняваме и избираме.
- Агентите пишат кода. Кодът се пише на малки стъпки, според договорения дизайн и правилата на проекта.
- Важат същите проверки. Кодът, написан от агенти, минава през същите тестове и преглед като кода, написан от човек.
- Ние проверяваме. Използваме софтуера така, както би го използвал потребител, в браузъра или на устройството, и отстраняваме откритите проблеми.
Какво не означава това. AI не пише перфектен код и работата не е автономна. Агентите допускат грешки, които изглеждат правдоподобни, затова тестовете и прегледът на кода са важни. Не обещаваме, че проектът ще бъде готов многократно по-бързо. Променя се разпределението на инженерното време: повече за изисквания, дизайн и проверка, по-малко за писане на рутинен код.
Как правим AI системите надеждни
Нито една AI система не дава правилни резултати във всички случаи. С тестове, наблюдение и обратна връзка от потребителите откриваме проблемите рано и подобряваме системата с времето.
- Отговори, основани на източници. Системата отговаря въз основа на вашите документи и данни и показва откъде идва всеки отговор, за да може той да бъде проверен.
- Липсваща информация. Системата е изградена да казва, когато в източниците няма отговор, вместо да гадае, и при нужда да пренасочва въпроса към човек.
- Оценка и тестване. Преди внедряването уточняваме набор от реални тестови случаи и измерваме резултатите на системата по тях. Същите тестове се изпълняват отново след всяка промяна в промптовете, моделите или данните.
- Наблюдение и подобряване. Изграждаме наблюдение на качеството, грешките и разходите, както и лесен начин потребителите да сигнализират за грешни отговори, за да може системата да се подобрява въз основа на реалната употреба.
Отговорна употреба на AI
- Човешки контрол. Когато една грешка може да струва скъпо, AI подготвя работата, а решението взима човек.
- Поверителност на данните. Уточняваме кои данни може да използва системата, къде се обработват и кой има достъп до тях. Правилата за достъп в съществуващите ви системи продължават да важат.
- Сигурност. Приемаме всичко, което моделът чете, за недоверен вход, ограничаваме действията, които системата може да извършва, и защитаваме ключовете и данните, които използва.
- Ясни граници. Ясно показваме на потребителите, че работят с AI, и за какво системата не е предназначена.
Имате проблем, който AI може да реши?
Опишете го в няколко реда. Първият разговор е безплатен и необвързващ, а обикновено отговаряме в рамките на един-два работни дни.