コールバック関数を表すクラスです。
Ruby のメソッド(call)を C の関数ポインタとして表現するためのクラスです。
FFI の closure の wrapper です。
利用法としては、このクラスのサブクラスを作ってそのサブクラスに call メソッドを定義し、 new でオブジェクトを生成することで利用します。
require 'fiddle'
include Fiddle # TYPE_* を使うために include する
class Compare < Fiddle::Closure
  # qsort の比較関数は 型が int(*)(void*, void*) であるため、
  # このメソッドには DL::CPtr オブジェクトが渡される。
  # そのポインタが指す先は比較している文字なので、
  # DL::CPtr#to_s で1文字の文字列に変換している
  def call(x, y)
    x.to_s(1) <=> y.to_s(1)
  end
end
libc = DL.dlopen("/lib/libc.so.6")
qs = Fiddle::Function.new(libc["qsort"],
                          [TYPE_VOIDP, TYPE_INT, TYPE_INT, TYPE_VOIDP],
                          TYPE_VOID)
s = "7x0cba(Uq)"
qs.call(s, s.size, 1, Compare.new(TYPE_INT, [TYPE_VOIDP, TYPE_VOIDP]))
p s # =>  "()07Uabcqx"
Class.new を使うことで、サブクラスを明示的に作ることなしにコールバックオブジェクトを作ることができます。
require 'fiddle'
include Fiddle # TYPE_* を使うために include する
compare = Class.new(Fiddle::Closure){
  def call(x, y)
    x.to_s(1) <=> y
  end
}.new(TYPE_INT, [TYPE_VOIDP, TYPE_VOIDP])
単に Ruby のブロックを C の(コールバック)関数に変換したい場合は Fiddle::BlockClosure を使うほうが簡単です。
new(ret, args, abi=Fiddle::Function::DEFAULT) -> Fiddle::Closure[permalink][rdoc]そのクラスの call メソッドを呼びだすような Fiddle::Closure オブジェクトを返します。
args、ret で関数の引数と返り値の型を指定します。指定は Fiddle::Function.new と同様なので、そちらを参照してください。
args -> [Integer][permalink][rdoc]引数の型を表す配列を返します。
ctype -> Integer[permalink][rdoc]返り値の型を返します。
to_i -> Integer[permalink][rdoc]C の関数ポインタのアドレスを返します。