Отключить системную кнопку close

Отключить системную кнопку Close у окна можно установив окну флаги:

  setWindowFlags(Qt::Window
     | Qt::WindowMinimizeButtonHint     
     | Qt::WindowMaximizeButtonHint     
     | Qt::CustomizeWindowHint);