На данный момент (и до конца весны, вероятно) у меня нет желания продолжать разработку, но спасибо.Используй EnumProcessModulesEx вместо EnumProcessModules с dwFilterFlag = 0x01. И будет у тебя все работать и на 64-bit. https://docs.microsoft.com/en-us/windows/win32/api/psapi/nf-psapi-enumprocessmodulesex
На самом деле, я хочу отказаться от абсолютно идиотской идеи AHK UDF и собрать все в .NET библиотеке, обращаясь к ней для работы хоть из AHK, хоть с приложений на чистом C.