Для ответа на этот вопрос мы проконсультировались с председателем Орфографической комиссии РАН д. ф. н., проф. В. В. Лопатиным. Вот его рекомендация.
Наличие вариантов югоосетинский – южноосетинский связано с тем, что раньше (до начала 1990-х) этот регион официально назывался Юго-Осетинская автономная область (в составе Грузинской ССР). Такое наименование зафиксировано и в «Словаре географических названий СССР» (М., 1983). Следовательно, раньше единственно правильным было прилагательное югоосетинский. Но в настоящее время официальное название – Республика Южная Осетия. От этого названия и образовано прилагательное южноосетинский. В словаре Е. А. Левашова «Географические названия» (СПб., 2000) зафиксировано только южноосетинский, варианта югоосетинский здесь нет.