Автоматы АК-107 и АК-108 были разработаны на Ижевском Машиностроительном заводе (ИЖМАШ) на основе более ранних образцов, созданных для участия в конкурсной программе «Абакан». Главными создателями новых автоматов являются Ю. К. Александров и В. Н. Паранин, а в основу конструкции этих автоматов легли экспериментальные Ижевские автоматы АЛ-4 (разработан еще в конце 1960х годов), и АЛ-7 (более поздней разработки). Оба этих автомата отличала так называемая «сбалансированная» автоматика, по своей идее аналогичная примененной в автомате АЕК-971 Ковровского Механического Завода. Такая автоматика позволяет существенно улучшить характеристики оружия при стрельбе очередями любой длины, по сравнению с традиционными автоматами Калашникова, на базе которых и были разработаны как АЛ-4 и АЛ-7, так и АК-107/108. По сути, основным отличием автоматов АК-107 калибра 5.45мм и АК-108 калибра 5.56мм НАТО от автоматов Калашникова АК-74М и АК-101 соответственно и является измененная конструкция автоматики, получившая второй газовый поршень с установленной на его штоке противомассой, и синхронизирующим устройством, расположенным между затворной рамой и балансиром. Есть и еще ряд отличий, в частности, измененная конструкция крепления крышки ствольной коробки, но они менее существенны.

Основная идея сбалансированной автоматики лежит в том, что отдача оружия при стрельбе складывается из целого ряда импульсов. Из них первым по времени является импульс от самого выстрела, полученный оружием, пока затвор еще заперт. Затем следует дополнительный импульс при ударе затворной группы в момент прихода ее в заднее положение, и наконец – противоположно направленный импульс при приходе затворной группы в крайнее переднее положение после завершения цикла перезарядки. И если отдачу от самого выстрела можно несколько уменьшить при помощи эффективного дульного тормоза, то довольно значительные импульсы от соударения затворной группы со ствольной коробкой в заднем и переднем положении гасить сложнее, а они вносят довольно сильные возмущения в положение оружия при стрельбе, ухудшая кучность огня. Для устранения этих импульсов в конструкцию оружия введен дополнительный «балансир», движущийся в направлении, противоположном движению затворной группы. При этом масса балансира равна массе затворной группы, а скорость движения за счет наличия в конструкции синхронизатора в виде обычного зубчатого колеса (шестерни) равна по модулю и противоположна по значению, так что импульсы затворной группы и балансира равны по модулю и противоположны по знаку, то есть суммарный импульс равен нулю. В крайних положениях подвижной группы ее элементы соударяются не с неподвижными элементами оружия, а друг с другом, взаимно гася импульсы, которые в обычном оружии передаются на его корпус и на стрелка в виде дополнительных составляющих отдачи. Результатом применения такой конструкции является то, что при стрельбе очередями на оружие в целом и стрелка фактически воздействует только импульс отдачи, вызванный самим выстрелом (суммарный импульс пули и пороховых газов), к тому же – эффективно сниженный дульным тормозом, что значительно улучшает кучность стрельбы в автоматическом режиме. По разным данным, эффект от применения такой схемы позволяет улучшить кучность при огне очередями в 1.5 – 2 раза по сравнению с автоматами АК-74М. В то же время, конструкция оружия усложняется лишь незначительно, особенно в сравнении с оружием, в котором для улучшения кучности стрельбы принята лафетированная схема автоматики (например, автомат Никонова АН-94).
Характерный вид оружия со сбалансированной автоматикой, имеющего сильно удлиненную вперед трубку газового поршня, как раз и определяется необходимостью скрыть в ней движущийся вперед-назад противоположно затворной группе балансир.Ударно-спусковой механизм в целом аналогичен таковому на автоматах Калашникова АК-74, но в него введен дополнительный режим стрельбы с отсечкой очереди по 3 выстрела. Предохранитель- переводчик режимов огня также традиционно «Калашниковский», но имеет не 3, а 4 положения: предохранитель – автоматический огонь («А») – очередь по 3 патрона («3») - одиночные выстрелы («1»).
Пластиковая фурнитура черного цвета, складной приклад и открытые прицельные приспособления заимствованы от автомата АК-74М.

Автоматы АК-107 и АК-108 отличаются друг от друга только применяемыми патронами. Автоматика построена по газоотводной схеме с длинным ходом газового поршня и дополнительным балансиром, имеющим свой, второй газовый поршень, двигающийся в противоположном основному направлении. Синхронизация затворной рамы и балансира осуществляется при помощи вертикально расположенной между ними шестерни. Кроме того, в конструкцию введена оригинальная деталь, исключающая отскок подвижных частей при их приходе в крайнее положение, соответствующее переднему положению затворной рамы (в момент окончания цикла перезарядки). Запирание ствола осуществляется поворотным затворном, схожим по конструкции с затвором автомата Калашникова АК-74.
В конструкции предусмотрены две возвратных пружины – одна расположена на обычном месте между задней стенкой ствольной коробки и затворной рамой, а вторая – между затворной рамой и балансиром, и сжимается между ними при открытии затвора.В 2011 году концерн ИЖМАШ продемонстрировал усовершенствованный автомат АК-107, предположительно в качестве потенциальной замены автоматам АК-74М. Новый вариант автомата АК-107 отличается новой крышкой ствольной коробки с интегральной направляющей типа Пикатинни для быстрой и удобной установки оптических прицелов. В задней части ствольной коробки установлен регулируемый диоптрический прицел, сменивший традиционный для автоматов Калашникова открытый целик с U-образной прорезью.