Подробнее? Хорошо. Давай с самого начала, а ты пошагово проверяй и делай.
Я буду писать как пример, а ты уже разбирайся и сопоставляй.
Будем ставить только SciTE и lua.
Потом, если нужно будет, установишь LuaForWindows. Это уже для продвинутых пользователей. Конечно я советовал бы сразу его ставить, но давай потренируемся и на трудном варианте

Итак :
Установка lua
1. Качаешь SciTE отсюда http://code.google.com/p....311.zip
2. Устанавливаешь его куда нужно (запоминай куда). Напр. в "C:\Lua\Scite"
3. Качаешь lua отсюда : http://luabinaries.sourceforge.net/download.html
либо lua5_1_4_Win32_bin.zip - для 32-х битной Windows
либо lua5_1_4_Win64_bin.zip - для 64-х битной
4. Создаёшь папку "C:\Lua\5.1"
5. Из архива "lua5_1_4_Win32_bin.zip" распаковываешь всё в эту папку
6. Для удобства переименуй файлы:
bin2c5.1.exe, lua5.1.exe,luac5.1.exe,wlua5.1.exe в :
bin2c.exe, lua.exe, luac.exe, wlua.exe
7. В директории "C:\Lua\5.1" создай папки :
"C:\Lua\5.1\lua" - для файлов *.lua
"C:\Lua\5.1\dll " - для C-файлов *.dll
8. Теперь исправим то, отчего у тебя ничего не работало. Добавим системные переменные.
Если не помнишь, то открывай : Мой компьютер -> Свойства -> Дополнительные параметры системы -> Переменные среды
В закладке "Системные переменные" ищешь переменную "Path".
Выделяешь -> Изменить -> Значение переменной, и в конец дописываешь - ;C:\Lua\5.1
9. Чтобы находились все библиотеки, которые будешь использовать, создаёшь новые переменные ("Системные переменные -> Создать") :
формат "имя переменной" = "значение переменной"
LUA_DIR = C:\Lua\5.1
LUA_PATH = ?.lua;%LUA_DIR%\?.lua;%LUA_DIR%\lua\?.lua
LUA_CPATH = ?.dll;%LUA_DIR%\?.dll;%LUA_DIR%\dll\?.dll

С lua всё, переходим к SciTE
Настройка интерпретатора Lua в Scite
1. Заходишь в меню "Настройки -> Подключенные настройки -> Открыть lua.properties"
2. Ищешь и комментируешь строчки:
command.go.*.lua=dofile $(FilePath)
command.go.subsystem.*.lua=3
3. После них добавляешь такую строчку:
command.go.*.lua=lua.exe "$(FilePath)"
4. Перегружаешь SciTE
Интерпритатор готов.
Можешь создать файл с текстом print("Hello world") и нажать F5

Идём дальше.
Настройка компилятора Lua в Scite
1. В том же файле "Настройки -> Подключенные настройки -> Открыть lua.properties" комментируешь строчку:
command..compile.*.lua=Luaс-5.0.exe -o "$(FileName).luc" "$(FileNameExt)"
2. ниже(выше) добавляешь строчку:
command.compile.*.lua=luac.exe -o "$(FileName).luc" "$(FilePath)"
3. Перегружаешь Scite.

Вот теперь наконец всё.

И не смотри на то, что выглядит это дело несколько сложновато. Хоть LuaForWindows ставиться на порядок быстрее и в нём есть очень много чего, данный вариант хорош для программистов при создании нового проекта. В папки C:\Lua\5.1\lua кидаются файлы проекта, в C:\Lua\5.1\dll только необходимые! библиотеки.
Зачем мне весь арсенал LuaForWindows, из которого я буду использовать только 5-10%

В общем если я нигде ничего не прозевал, должно заработать сразу.