Planeta

Ahir, mentre treballava normalment amb Moodle (clonava un element), em va tornar l’error 502 Bad Gateway. En veure que insistia, vaig començar a cercar informació sobre el tema: la conseqüència immediata era que alguna cosa anava malament en el Moodle (però és evident que no tinc els coneixements necessaris per esbrinar el què, i encara menys per a trobar-ne la solució).

La primera opció va ser reiniciar TOT el servidor Yunohost. I va funcionar, vaig poder accedir al Moodle… durant un parell de minuts, fins que l’error 502 va reaparèixer.

El segon intent va ser actualitzar Yunohost via ssh:

I vaig poder tornar a accedir al Moodle… durant un altre parell de minuts.

El tercer intent va ser via la interfície web d’administració del Yunohost: hi vaig descobrir que hi havia un actualització disponible per al Moodle (del paquet moodle-3.9.0 al paquet moodle-3.9.0-ynh1): la vaig aplicar (juntament amb una altre que em mostrava per a Nextcloud), el servidor es va reiniciar i, afortunadament, l’error 502 no se m’ha tornat a presentar.

Continue sense saber quin era el problema (no sóc informàtic, ja ho sabeu). Afortunadament, sembla que els xicots de Yunohost l’havien identificat i n’havien inclòs la solució en aquella actualització. Que el nom del paquet incloga les sigles ynh i que no canvie numeració respecte a l’anterior em fa sospitar que no es tracta de cap problema propi del Moodle, sinó de la manera com aquest «funciona» dins de Yunohost. Però potser estic completament equivocat.

El que és important és comprovar que Yunohost és un projecte molt viu, molt actiu, i que els seus programadors detecten i solucionen els problemes molt ràpidament: abans que jo me’l trobés, ells ja l’havien solucionat. Cosa que em recorda que hauré de pensar a col·laborar amb el projecte d’alguna manera concreta, més enllà de fer-ne difusió.

Després de la instal·lació de Yunohost en una RaspberryPi 3+ B (cosa que no m’hauria plantejat abans d’escoltar les explicacions d’en Xaloc) per a confeccionar i mantenir el meu servidor domèstic (on, entre altres coses, s’allotja aquest blog), em vaig emocionar afegint-hi un grapat de serveis que potser (potser) han tingut alguna cosa a veure amb la penjada que el pobre animalet va patir fa uns dies: li demane massa a la modestíssima Raspy? No ho sé.

L’incident, a més, em va pillar lluny de casa i, fins que no hi vaig tornar, la cosa no tenia solució. En local, després de reiniciar la màquina (dir-li «màquina» a una Raspy, tot i ser semànticament correcte, continua semblant-me un acudit), se’m va ocórrer afegir al cron l’ordre de reiniciar (reboot) cada 24 hores, de matinada, en un horari que difícilment em pot afectar. No sé si això previndrà el problema, però, ara mateix, no tinc temps per investigar res més.

Toquem ferro i, sobretot, continuem amb aquesta aventura apassionant.

L’ordre que li vaig passar al cron no fa res. L’he corregida afegint-hi l’usuari que l’executa, root, però continua sense funcionar. He d’investigar si Yunohost porta alguna modificació al funcionament del cron.

Durant 2018 vam publicar i explicar amb detall els nostres models de traducció automàtica basada en xarxes neuronals. Després de temps aprenent, usant els models i provant-los publiquem una nova versió del model fet a partir de les memòries de traducció de Softcatalà. Teniu tota la informació al dipòsit nmt-softcatala de Github.

Novetats principals:

1. La qualitat del nou model (model-sc) mesurada en BLEU ha passat de 30,50 a 42,80. És una salt molt important en qualitat usant exactament els mateixos corpus d'entrenament. La clau ha estat en utilitzar nous models d'entrenament i millors paràmetres. Aquí per exemple teniu un fitxer traduït amb aquest nou model. Cal dir que el model mai ha vist aquesta traducció abans ja que no existeix en català.

2. He simplificat molt les instruccions de com executar els models usant Docker baixant la barrera d'entrada per aquells que els voleu feu servir.

3. Fem servir ja OpenMNT 2.0 i TensorFlow 2.0 (deixant enrere les versions 1.0)

Continuem

Considero que la traducció automàtica anglès -> català és la més important en una societat on molt del coneixement es genera en llengua anglesa. Durant els darrers dos anys ens hem plantejat a Softcatalà: per què no invertim en la millora de la traducció automàtica anglès -> català. La primera qüestió que es plantejà era: on som en termes de qualitat? i on volem arribar? I cap de les dues qüestions són fàcils de respondre: on som i on volem arribar respecte a quines expectatives? Per exemple, per quins tipus de textos, què vol dir una qualitat acceptable?

Llavors he fet una anàlisi de la qualitat dels traductors disponibles en anglès - català amb els següents objectius:

• Com es compara la traducció anglès -> català d’Apertium (el traductor que usem i col·laborem des de Softcatalà) respecte a opcions com Google Translator, Yandex, i altres. I en concret hem fet l'anàlisi sobre tres corpus: traducció informàtica (un manual del GNOME), textos informals (Global Voices) i textos de la Wikipedia. 
• Trobar les mancances més importants del traductor d’Apertium i corregir-les.
• Intentar entendre que hauríem de fer durant 2020 per millorar el parell de llengües anglès -> català (independentment de la tecnologia, sigui Apertium o una altra).

A Softcatalà els esforços per construir un traductor lliure anglès -> català han anat bàsicament en dues direccions:

• Contribuir a Apertium en parell anglès -> català. Marc Riera porta des de fa dos anys treballant en millorar el parell. A finals de 2018 vam presentar una millora important en el parell anglès - català. L’Apertium és un sistema de traducció basant en regles i vocabulari i continuem millorant-lo però ens ha faltat tenir més feedback sobre la qualitat.
• Durant 2018 vam fer proves de concepte entrenant models de xarxes neuronals (Sofcatalà NMT) amb uns resultats molt bons en un context molt concret: traducció de programari informàtic. El resultat va ser la publicació de dos models lliures i els seus corpus. Vam deixar-ho aquí, ja que no disposem de prou corpus lliure per entrenar models per a contextos més genèrics.
  

Tant BLUE com NIST són mètriques que s’utilitzen per avaluar els sistemes de traducció automàtica. Com més alt és el nombre més s'assembla a una traducció de referència.

La conclusió d’aquests resultats és que Google sempre és el millor i que Apertium té els resultats més modestos, en comparació als altres traductors pel parell anglès -> català. Però també hi ha una conclusió molt important, el traductor en xarxes neuronals Softcatalà NMT quan l’usem contra un corpus ben entrenat s’apropa molt a la qualitat d’Apertium, per la qualcosa és una opció a continuar explorant.

Llavors per què continuar treballant amb Apertium o altres tecnologies lliures si Google ho fa tan bé? Nosaltres pensem que és absolutament imprescindible que una tecnologia d’aquesta importància tingui una implementació lliure: tant en el codi com en les dades. Això no només pot estar en mans d’empreses privades. Hem parlat àmpliament d’això en el passat. 

Llavors, quin és el nostre pla a Softcatalà? Ara mateix:

• Continuar millorant Apertium. Utilitzar aquesta anàlisi i demanar més explícitament ajuda als usuaris perquè comparteixin les traduccions que pensen siguin millorables.  Com mostra l'anàlisi, i com nosaltres mateixos sabem, es pot millorar significativament.
• Reentrenar el traductor de Softcatalà NMT (neuronal) amb corpus més genèrics, això inclou GlobalVoices, WikiMatrix, Open Food Network. i OpenSubtitles i començar a avaluar els resultats dels nous models.
• Serà impossible millorar els models neuronals si no disposem de corpus anglès -> català de qualitat lliures alineats. En aquest sentit el nostre punt de partida serà WikiMatrix i demanar ajuda als usuaris per validar-ne la qualitat (aproximadament un 36% del corpus conté errades, basant-nos en una anàlisi manual que hem fet).

És possible que en futur a Softcatalà usem per al parell anglès -> català models neuronals en comptes d’Apertium o que utilitzem un sistema híbrid amb avaluació en temps real. Al final la solució serà la que ens permeti oferir millor qualitat a la nostra comunitat.

Si us interessa la traducció automàtica, saber-ne més o donar un cop de mà, disposem d’un canal de Telegram per coordinar aquests esforços.