Мои действия:
1. перекидываю ../Amiga programs/rtg.library (версия 40.3993) в систему
2.прописываю в startup-sequence - DEVS:Monitors/uaegfs
3.в ScreenMode выбираю видюху
4.перезапуск

видюха после этих действий поддерживается, но эмулятор почти всегда зависает если я пытаюсь запустить что либо, например DOPUS4.16