Pelo que entendi ele alterou o arquivo src/sslhelper.c
Aqui um link com a modificação e o nome do arquivo alterado:
x11vnc server uses ADH based ciphersuites which are not available in the default security level in OpenSSL 1.1.1, causes tls handshake failed error. lowered the ADH security level from"ADH:@S...
github.com
Na linha 1603 ele fez a troca dos parâmetros, mas o trecho não sei se vai estar exatamente nessa linha no seu caso mas é provável que sim.
é, procurei aqui e n encontrei. n existe pasta src, deve ser a src dentro do programa que pelo que entendi seria o x11vnc, mas n tem pasta dele tbm... procurei pelo nautilus e n achei nada com esse nome de sslhelper tbm. de volta a estaca 0 kkkk
EDIT: procurando aqui achei isso:
I'm trying to connect x11vnc server through VncViewer (TigerVnc). I'm giving following command to start vnc server with -ssl option $ x11vnc -ssl -rfbauth /home/root/.vnc/passwd When I'm trying to ...
github.com
mesma coisa, o cara falando que mudou o ADH no "server code" que eu n encontro. mas acima disso, outro cara mostra formas de mexer nisso na linha de comando com o openssl... e como config file no linux acaba sendo só um monte de comando e parametro de terminal, to pensando aqui, n tem nenhum jeito de eu emendar isso no comando que uso no systemctl pra no comando que já inicia o VNC, ele alterar o adh pra selevel=0 ? eu acho que é possivel, mas n faço ideia de como faria. o comando rodando no meu teste aqui (com porta diferente pra n ferrar o VNC que tá funcionando sem encriptação) é esse:
sudo /usr/bin/x11vnc -auth guess -forever -loop -noxdamage -repeat -rfbauth /home/fairbanks/.vnc/passwd -rfbport 5903 -shared -ssl
e basicamente esse "-ssl" ai roda com o parâmetro "ADH:@strength" por default, mas quero que rode com "ADH:SECLEVEL=0"
procurei aqui:
http://manpages.ubuntu.com/manpages/bionic/man1/x11vnc.1.html
mas n achei nada na parte do -ssl que me desse alguma ideia de como fazer essa alteração no comando. mas achei isso:
"Config file support: if the file $HOME/.x11vncrc exists then each line in it is treated as a single command line option."
procurei aqui e n tenho esse arquivo.
Será que se eu criar um arquivo com esse nome, e colocar nele o conteudo desse aqui:
a VNC server for real X displays. Contribute to vishnumotghare/x11vnc development by creating an account on GitHub.
github.com
da linha 1599 até... sei lá, 1602? ele resolve o problema?
EDIT 2: Continuei pesquisando e achei isso aqui:
I'd like to ask if there's a way to lower SSL security level to 1 on Ubuntu 20.04, since I'm receiving: 141A318A:SSL routines:tls_process_ske_dhe:dh key too small when trying to curl the website....
askubuntu.com
achei que valia a tentativa, pq n tenho ctz se tinha que mudar algo no openssl ou x11vnc pra funcionar, e tentei. e... bom, não funcionou. mas o erro mudou. antes falhava logo no handshake, agora parece que vai um pouco além. o erro que tá dando agora é:
27/02/2022 03:38:12 SSL: accept_openssl(OPENSSL_VNC)
27/02/2022 03:38:12 SSL: spawning helper process to handle: 192.168.3.30:51494
27/02/2022 03:38:12 SSL: helper for peerport 51494 is pid 19343:
27/02/2022 03:38:12 connect_tcp: trying: 127.0.0.1 20000
27/02/2022 03:38:13 check_vnc_tls_mode: waited: 1.418020 / 1.40 input: (future) RFB Handshake
27/02/2022 03:38:14 check_vnc_tls_mode: version: 3.8
27/02/2022 03:38:14 SSL: ssl_helper[19343]: exit case 2 (ssl_init failed)
27/02/2022 03:38:14 SSL: accept_openssl: cookie from ssl_helper[19343] FAILED.
E no vnc viewer no windows tbm mudou, agora dá esse erro:
"Não é possível estabelecer conexão com o VNC Server usando a configuração de segurança escolhida. Atualize o VNC Server para uma versão mais recente da RealVNC, ou selecione um nível mais baixo de criptografia."
e eu to aqui perdido de nv. mas como tá dando um erro de RFB handshake, acho que vou ler no manual sobre o "-rfbport" no comando pra iniciar o negócio...