Спустя миллионы и миллионы лет проверки каждой строчки кода и использования метода проб и ошибок, я понял, что цикл закрывался, когда значение переменной count доходило меньше 16 в "until (count <= 16)" и поэтому из-за закрытия цикла, код не успевал преобразовать "15" в "F" и поэтому заместо "F" к исходному шестнадцатиричному числу добавлялась число 15, и поэтому результатом было "15F0000" :/
Можно считать это в какой-то степени жизой под категорией "Запустил не с 0, а с 1"
Смешанные чувства того, что я обосрался, потратив кучу времени на исправления проблемы, и при этом исправил эту же самую проблему

Если кому нужно, то вот код:
Да, я знаю, что на GMS2 уже есть встроенные функции для перевода чисел между системами счисления.
var count, str;
count = argument0;
str = "";
do
{
str += string_copy("0123456789ABCDEF", count - (count div 16 * 16) + 1, 1);
count = (count div 16);
} until (count <= 1);
return str;
// Качество кода не гарантирую
Ну, зато исправил проблему сам! Спасибо. (Извиняюсь за спам темами)