Overleaf+VSCode+GitHub+etcな執筆環境を整えるための環境構築ログです．

Overleaf+VSCode+GitHub+etcな執筆環境を整える

Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understandingのまとめ

【論文まとめ】Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding

Connecting Speech Encoder and Large Language Model for ASRのまとめ

【論文まとめ】Connecting Speech Encoder and Large Language Model for ASR

brew install python@3.12をすると，./Modules/_uuidmodule.c:11:12: fatal error: uuid.h: No such file or directoryと出てきて，ビルドができません．単にuuidをインストールするだけではダメで，コツがいるようでしたので解決法を共有します．

brew install python@3.12でuuid.hがない!!

Disfluency Generation for More Robust Dialogue Systemsのまとめ

【論文まとめ】Disfluency Generation for More Robust Dialogue Systems

I Learned Error, I Can Fix It! : A Detector-Corrector Structure for ASR Error Calibrationのまとめ

【論文まとめ】I Learned Error, I Can Fix It! : A Detector-Corrector Structure for ASR Error Calibration

Editing Models with Task Arithmeticのまとめ

【論文まとめ】Editing Models with Task Arithmetic

CTRLStruct: Dialogue Structure Learning for Open-Domain Response Generationのまとめ

【論文まとめ】CTRLStruct: Dialogue Structure Learning for Open-Domain Response Generation

対話システムはどのように話すべきかのまとめ

【論文まとめ】対話システムはどのように話すべきか

Recent Neural Methods on Dialogue State Tracking for Task-Oriented Dialogue Systems: A Surveyのまとめ

【論文まとめ】Recent Neural Methods on Dialogue State Tracking for Task-Oriented Dialogue Systems: A Survey

Recent Advances in Deep Learning Based Dialogue Systems: A Systematic Surveyのまとめ

【論文まとめ】Recent Advances in Deep Learning Based Dialogue Systems: A Systematic Survey

A survey on empathetic dialogue systemsのまとめ

【論文まとめ】A survey on empathetic dialogue systems

遠隔操作アンドロイドを用いたマルチモーダル説得対話コーパスの収集と分析のまとめ

【論文まとめ】遠隔操作アンドロイドを用いたマルチモーダル説得対話コーパスの収集と分析

知識源との一対多関係を有する対話コーパスによる発話生成のまとめ

【論文まとめ】知識源との一対多関係を有する対話コーパスによる発話生成

分類モデルBERTによる不整合生成文の検出についてのまとめ

【論文まとめ】分類モデルBERTによる不整合生成文の検出について

Transformerによるhallucination errorの事後修正のまとめ

【論文まとめ】Transformerによるhallucination errorの事後修正

Prompt-Tuning による個性を持った対話システムの構築のまとめ

【論文まとめ】Prompt-Tuning による個性を持った対話システムの構築

Prediction of Shared Laughter for Human-Robot Dialogueのまとめ

【論文まとめ】Prediction of Shared Laughter for Human-Robot Dialogue

Multimodal Humor Dataset: Predicting Laughter tracks for Sitcomsのまとめ

【論文まとめ】Multimodal Humor Dataset: Predicting Laughter tracks for Sitcoms

Multi-Hop Transformer for Document-Level Machine Translationのまとめ

【論文まとめ】Multi-Hop Transformer for Document-Level Machine Translation

Internet-Augmented Dialogue Generationのまとめ

【論文まとめ】Internet-Augmented Dialogue Generation

Highway Transformer: Self-Gating Enhanced Self-Attentive Networksのまとめ

【論文まとめ】Highway Transformer: Self-Gating Enhanced Self-Attentive Networks

A mental state Knowledge–aware and Contrastive Network for early stress and depression detection on social mediaのまとめ

【論文まとめ】A mental state Knowledge–aware and Contrastive Network for early stress and depression detection on social media

A Survey of Knowledge-Intensive NLP with Pre-Trained Language Modelsのまとめ

【論文まとめ】A Survey of Knowledge-Intensive NLP with Pre-Trained Language Models

poetry add espnetではうまくインストールができなかった．．．そこで，poetryを用いてespnetをインストールする方法を共有します．

poetry add espnetがしたいんじゃっ

最近Node.jsで開発をしていなくてバージョンを放置していたのですが，久々にNodeを使った開発の機運が高まったのでNodeとnpmのバージョンを更新しようと思ったのですが．`Cannot find module 'agentkeepalive'`と出て上手くいかず．対処法は簡単だったのですが，備忘録として．

npm@8.13.2へのupgradeでCannot find module 'agentkeepalive'

MScupで低解像度を超解像化する珍しいコンペが出てきて，2ヶ月従事したけど11位で終わってしまいました．でも，学べることがたくさんあったし，画像系コンペに出てこなかったので，画像系でも活かせそうな知見が得られて楽しいコンペでした．実験してみて効いたこと効かなかったことや学んだことをまとめます．

【🛰MScup】超解像コンペで11位だったけど，やったことまとめまくる

Transformersを使って入力テキストをtokenizeするときに，データセットのサイズが大きかったので，バッチ単位でエンコードしたかった時がありました．この時，collate_fnに対して複数の引数を与えたかった状況の時の対処法です．(日本語変かも)

collate_fnで複数の引数を取りたい!!

Colab Proでなんとかpytorch-lightningを使ってTPUで実験を回そうと奮闘した結果，得られたベストプラクティスの共有です．もっといい方法があったら教えてください．

Pytorch LightningでTPUを回す on Colab Pro in 2021

対話システムをサーバ上で動かせる体制を作るために，pytorchやら何やらをHerokuでinstallさせる必要があったのですが，pytorchちょっとデカすぎませんか？という状態でエラーが出てしまいました．その時の解消法です．

Pytorch, Herokuにはデカすぎる問題

Kaggle何もわからない状態でしたが，やはりKaggle Notebookだとセッション時間の制限等が厳しかったです...そこで，Kaggleから逃げない対策としてもColab Proに課金してしまいました．KaggleのためのColaboratoryの使い方を考えます．

KaggleのためのColabスターターを考える【第一話】

ffmpegでm4aフォーマットを自動でmp3に変換するプログラムをPythonで書いたのですが，CentOSのサーバ上で動作させるのに苦労したので，その時の解決策です．

CentOS8にffmpegインストール; パッケージには気を付けよう

atmaCup#10に参加しました。しっかりとコンペにフルコミットしたのは今回が初めてなので、ほぼ初参加と言っていいでしょう。しかし、結果はPublic: 137位でPrivate: 130位(+7)というクソ雑魚結果に...。これは大反省会をして次に生かすことに他ならないということで久々にブログに記します。誰かのお役に立てれば嬉しいかなと思いながら、大反省をしていきます。

atmaCup#10大反省会(Public: 137位/Private: 130位)

pip install tensorflowでtensorflowをインストールしてディープラーニングをやろうとした矢先の事、パッケージが足りないだと...。その時の解決策がとても簡単だったのですが、この手の問題はtensorflowに限らず起こりそうなので、記録しておきます。

tensorflowインストール時 METADATAがない？

今回は、多次元配列で\*演算には注意しないと、バグが起こるよってことを話します。1年Pythonを描き続けましたが知らなかったので、これは共有させていただきますね。Pythonは、ポインタだの参照だのを意識しなくても良い言語だと思うんですが、これは知っておくべきです。

【Python】多次元の不用意な*演算には注意!!

Pythonで他にはない特殊な書き方といえば、内包表記ですかね。Haskellでもかけるみたいな話聞いたことあるけど。実際内包表記は読みやすく、たいてい高速に動くので推奨される書き方と思います。ベンチマークを測ってみたので参考になればと。

内包表記でパフォーマンスをあげるのだ！

画面をプリントしたいときとかって、無駄な情報があってそれを排除してプリントしたり保存したりしたい時ってあるんですよね。そこの広告いらないから...みたいな。JavaScriptから簡単に操作して画面をPDF保存とかできたのでその共有をします。

JSで欲しい所だけを印刷するのすごく簡単だったってお話

PythonからUNIXコマンドを使いたい。そんな時があると思います!(多分滅多にないと思うけど)今回は、「ls」コマンドをPythonスクリプトから実行していこうと思います。

PythonからUNIXコマンド発出【ls編】

AWSのオンラインセミナーに参加したのでその時のメモ

AWSオンラインセミナーメモ【11/10】

FlaskからJSONを返してAPIサーバー風に稼働させていたのですが、なぜかfetchしたJavaScript側でエラーが...なんだこれとなったのですが、バックエンドのPython側のミスでした。何気に気付きにくかったりするので、またミスしたときのために備忘録として残しておきます。

【Flask】フロントでUnexpected token!?

WindowsでSQLを触りたいなと思って、Apacheを利用していたのですが、「(OS 5)アクセスが拒否されました。  : AH00369: Failed to open the Windows service manager, perhaps you forgot to log in as Adminstrator?」とのエラーが...。解消方法を備忘録にします。

httpd -k installでアクセス拒否

Apacheのインストールはなんとか成功！したのですが、なぜかエラーが発生。大体デフォルトでいく感じかと思ったら、みんなと少しデフォルトが違うじゃん！というわけで、その時の解決法を備忘録として共有します。

ApacheのSRVROOTが合わない問題

Anacondaは、GUIで操作ができてやりやすいですが、起動もかなりおそくCLIでどうにかならないか「conda create」コマンドを使って環境を立てる事があります。しかし、ノリでEnterを押してしまってPythonのバージョンを指定し忘れることが...。かなりの弊害を生み出します。その際の対処法を共有します。

conda createでpythonのバージョン指定忘れた！

Pythonにもmap関数があり、容易に配列から新たな配列を生み出すことができます。lambdaを用いて無名関数を使うなど、いくつか応用方があるので備忘録がてらまとめていこうと思います。

【map】を使って新たな配列を作る

Pythonにはデコレータというものがあるのですが、意外と初学者には知られていない存在で比較的不思議な挙動をする感じがします。関数を直接的に実行しなくともファイルを読み込んだ段階で実行されるようなので、挙動について実験してみました。

Pythonのデコレータの挙動を実験してみた

Pythonを使って、例えばコーパスを作る際、辞書型に対して単語出現回数を記録しするなど、辞書を使うことがあるかもしれません。その際、ifによる条件分岐によって辞書型の初期化をするわけですが、collectionsにあるdefaultdictというものを使うと初期化を勝手にやってくれます。そのdefaultdictについて解説していきます。

【defaultdict】で辞書型の初期化をサボる

Pythonで中身をpopで削除したいなーと思った時、なぜか「dictionary changed size during iteration」とのメッセージが。これは意外と出てきたら原因がパッとしないので、2度と同じことを起こさないように記録しておきます。

dictionary changed size during iterationの原因特定した

Pyythonでソートをしたい時、初めの頃はあまり思いつかないことも多く、lambda式ってなんや...!?こんな状態でソートにはあまり手が出ず、コピペで戦っている方も多いのではないでしょうか。今回はその中でも「辞書型」のソートについてお話しします。

Pythonで【辞書型】をソートする

ディープラーニングとか、とにかく複雑でメモリを使用するような計算処理が家庭用パソコンでもできる時代になりました。(そーゆー時代しか生きていないんですけど)とはいえ、メモリを意識せずともプログラムをかけているのは最適化されたライブラリを使っているからなわけで。。。そんなわけで自分でもメモリ管理を気をつけたいわけです。そこで、弱参照によって、うまいことPython処理系にメモリの破棄を促す方法をお話ししていきます。

【weakref】弱い参照によってメモリ管理をする

線形代数ライブラリを作ろうと色々とプログラムを書いていたわけですが、なんとなくで転置行列をどう簡単に求めるかということを考え始めました。その時に思いついた転置行列の求め方を共有します。

簡単に転置行列求めてみた

Pythonでクラスのインスタンスを生成して格納した変数を出力すると、class名とメモリ番地みたいなやつが出力されてしまいます。Pythonユーザーで機械学習とかで遊んでいる方はわかると思いますが、*numpy*はnp.ndarrayというクラスを持ちながら出力では行列が出力されます。線形代数計算ライブラリを自作している際、そのような特殊な出力にしたいことがありました。実際に行った方法をお話しします。

classの標準出力を特殊な文字列にしたい【__str__|__repr__】

一次元配列のソートは簡単だし、困るのは多次元配列です。しかも、よく記事になっているのは多次元配列の要素中の配列の数字に対してソートをよくやるんですよね〜。文字列でソートはどーやるん？と思って解決した方法を共有します。

【JS】多次元配列を文字列に合わせてソートしたい!

PythonとかGoとかだとそのまま返り値を複数セットしてもしっかり戻るのですが(Pythonの場合はタプルで返る)、JavaScriptだとreturn a, b;のようなシンプルな書き方だと動作しません。少し特殊な書き方になるのですが、解決策を共有します。

JSで返り値にパラメータを複数設定する

Goは静的型付言語でありながら、どうやら型を推論できるらしいですね。公式チュートリアルをみて知りましたが。ここでいくつか型を試してみたので、その実験結果を報告していきます。

Goはどうやら型を推論できるらしい話

Pythonからtkinterを使ってGUIを実装していました。Entryを使ってユーザの入力値を受け取ることができますが、デフォルト値の設定の仕方に困ったので、デフォルト値を設定した方法を共有します。

【Python】tkinterでEntryにデフォルト値を入れたい

環境構築がいつも面倒くさくて、実際にローカルで開発を始めるまでに毎回時間がかかるので新しい言語を始める時躊躇われることが多いです。そう思いつつもGoを始めてみたところ、かなり環境構築が楽でした。その時の話を少ししていきます。

Goのインストールが楽すぎた話

GoでHello, world!

時々、Seleniumで要素を取得してクリックした際、うまくいかないことがあります。その時いくつかの解決策があるのですが、今回はJavaScriptを発火させて解決する方法を解説していきます。

Seleniumからクリックができない...そうだ、JSからクリックしよう

データ収集中にint型に文字列をパースすることがあったのですが、みるからに数値なのにエラーが返ってきました。これは何気にドツボでした。

invalid literal for int() with base 10: でint型のパースでエラーが！ 

Macは普段使いなので、あまり情報収集に使いたくなかったために、常時Windowsのノートパソコンを情報収集ボットとしようとしました。その時コードの共有をDropboxを用いたのですが、なぜかいくらpandasを入れても"No module named 'pandas.core.internals.managers'; 'pandas.core.internals' is not a package"というエラーが。。。その原因がわかったのでそのお話をします。

pickleでロードした時pandasがあるのに"No module ~~"で悩んだ件について

機械学習の学習中に、他のディレクトリで作った自作関数が使いたかったのだけど、うまくimportする方法に悩みました。pythonがモジュールを探すpathをセットしてあげるだけで済んだので、その方法を解説します。

自作のモジュールを他のディレクトリから持ってきたい!!

ここ最近になってからなのだが、ターミナル起動時に毎回"zsh compinit: insecure directories, run compaudit for list. Ignore insecure directories and continue [y] or abort compinit [n]?"という表示が出るようになった。このchmodで権限を変えてあげたら直ったので、その共有。

突然Macのターミナル起動時に"zsh compinit: insecure directories"が現れる

Pythonで始める機械学習でお勉強中にFutureWarningに遭遇しました。GroupKFoldで起こったのですが、とりあえず今は使えるもののこの先使えなくなることが示されているので修正します。

Scikit-learnのGroupKFoldでgroups配列でWarning発生!!

MeCabを利用したWebアプリケーションをHerokuにデプロイしようとして、環境をrequirements.txtにまとめていたのですが、、、どうしてもエラーが出てインストールが止まってしまうことがありました。原因は、Mecabだったようなので、エラー回避方法を共有します。

HerokuにMecCabインストールで困った!!

ロジスティック回帰をscikit-learnで実装していると、デフォルトはL2正則化でペナルティを与えています。そこで、もっとスパースにしてやろうとL1正則化を行おうとしたのだが、エラーを吐かれた。その時の解決策を共有します。

ロジスティック回帰でL1正則化を利用できない問題の解決法

色々あってtmuxをConoHa VPSにインストールをすることになったのだが、そこでmakeしてmake installをする必要があった。しかし、このVPSのCentOS7には標準搭載では無かったようなので、インストールした。その際やったことを共有する。

CentOS7にmakeコマンドをインストールする

iOSアプリの自動化できないかなとふと思った。いつもSelenium等を使って自動化をしているのでAppiumを使ってモバイルも自動化できないかと考えたわけ。そこでインストールの仕方を共有しようと思う。

Appiumをインストールする!!

Pythonではじめる機械学習をやっている最中に、mglearnというライブラリからmake_forge()メソッドでデータを生成することがあったのですが、Warningが出て怒られたので、推奨される形に戻すために互換性のあるコードに直します。

scikit-learnのmake_blobsに乗り換えよう!!

MySQL触ってて、他のコードの変更とか方針の変更に応じてテーブルのカラムを挿入したくなることってあるよね。(自分があった)ので、テーブルにカラムを挿入する方法を共有します。

MySQLで困った!カラム追加したい

MySQLでリモート接続のためのセットアップを行いました。現環境はバージョン8.0.19なのですが、前回からのメジャーアップデートにて、コマンドが変わっており大変苦労したので備忘録として。かなりつまずきますので共有します。

MySQL8.0.xでリモート接続のセットアップをする!

結構初歩的なのだけど、ユーザー権限を削除したくなって構文を覚えたので共有します。

MySQLでユーザーの権限を削除する

Pythonのライブラリ「mysql-connector-python」を使っていたのですが、なかなか'SHOW TABLES'や'SHOW DATABASES'を出力できなかったので、その対処法を備忘録としてまとめます。

mysql-connector-pythonで'SHOW ~~~'に困ったのでその対処法

Pythonのライブラリ「mysql-connector-python」を使って、ローカルのMySQLデータベースに接続します。

mysql-connector-pythonでローカルDBに接続する

MySQLを使い始めたのですが、Pythonのライブラリとのバージョンの制約が厳しいので、バージョンの確認が必要になりました。その時の備忘録として、対話モードでバージョンを確認する方法を残します。

MySQLの対話モードで使用しているMySQLのバージョンの確認方法です。

MySQLでバージョンを確認する

自然言語処理という機械学習のタスクにおいて「コーパス」という言葉が出てきます。そのコーパスについてお話をしていきます。

自然言語処理(NLP)のコーパスって何なん？

デフォルトでいつものようにCSSを書いていると、スマホなどのタッチデバイスでは、:hoverや:activeが適応されません。今となってはモバイルファーストの社会です。スマホにも適用してみましょう。

スマホにも:hoverを対応させてみる

スマホのように小さい画面になるとおかしなところで改行してみにくい。そんな時のCSSのTipsを紹介します。