A jak obsługiwana jest domena? Przez binda na twoim VPS-ie, czy może OVH ją obsługuje? Jeżeli OVH to sprawdź gdzieś w panelu administracyjnym, czy nie można tego ustawić.
Co do vhosta, to musisz mieć również kontrolę nad strefą odwrotną dla twojego numeru IP. Na 90% takiej kontroli nie masz, więc dowiedz się u ISP, czy możesz zmodyfikować rekord PTR dla swojego adresu IP.
Z poziomu OVH raczej dużo się nie dowiem, ponieważ trzymaj mi tylko domenę, bez żadnych dodatkowych usług. Czyli rozumiem, że aby użyć subdomeny na domowym serwerze, muszę przekierować rekord PTR?
Musisz zrobić dwie rzeczy:
1. Ustawić rekord A domeny na swoje domowe IP.
2. Powiedzieć ISP, żeby ustawił PTR dla IP twojego domowego serwera na twoją domenę (czyli np. vps.domena.org).
Rekord A musisz ustawić na serwerze DNS, który zarządza twoją domeną. Jeżeli to OVH, to musisz to zrobić jakoś na OVH.