tor-browser

The Tor Browser
git clone https://git.dasho.dev/tor-browser.git
Log | Files | Refs | README | LICENSE

WordSegmenter.mjs (1505B)


      1 import { lib } from "./index.mjs";
      2 
      3 export default {
      4 "WordSegmenter.segment": {
      5 	func: (model, text) => {
      6 		var segmenter;
      7 		switch (model) {
      8 			case "Auto":
      9 				segmenter = lib.WordSegmenter.createAuto();
     10 				break;
     11 			case "LSTM":
     12 				segmenter = lib.WordSegmenter.createLstm();
     13 				break;
     14 			case "Dictionary":
     15 				segmenter = lib.WordSegmenter.createDictionary();
     16 		}
     17 		
     18 		let last = 0;
     19 		const iter = segmenter.segment(text);
     20 
     21 		const segments = [];
     22 		
     23 		while (true) {
     24 			const next = iter.next();
     25 
     26 			if (next === -1) {
     27 				segments.push(text.slice(last));
     28 				break;
     29 			}
     30 
     31 			segments.push(text.slice(last, next));
     32 			last = next;
     33 		}
     34 		
     35 		return segments.join(" . ");
     36 	},
     37 	funcName: "WordSegmenter.segment",
     38 	parameters: [
     39 		{
     40 			name: "Model Type (Auto, LSTM, or Dictionary)",
     41 			type: "string",
     42 			typeUse: "string",
     43 			defaultValue: "Auto"
     44 		},
     45 		{
     46 			name: "Text",
     47 			type: "string",
     48 			typeUse: "string",
     49 			defaultValue: "โดยที่การยอมรับนับถือเกียรติศักดิ์ประจำตัว และสิทธิเท่าเทียมกันและโอนมิได้ของบรรดา สมาชิก ทั้ง หลายแห่งครอบครัว มนุษย์เป็นหลักมูลเหตุแห่งอิสรภาพ ความยุติธรรม และสันติภาพในโลก"
     50 		}
     51 	]
     52 }
     53 };